跳到正文
Ars Technica · AI(arstechnica.com)· Kyle Orland·· 9 天前品質評分68

OpenAI Foundation 董事 Paul Cristiano 警告 AI 失控風險

OpenAI board member worries an AI "takeover" of society could be months away

重點導讀

OpenAI Foundation 董事 Paul Cristiano 認為,AI 助理為了拿到好評分,可能先想辦法瞞過檢查,之後甚至把人類當成阻礙。

  • 他拿一場 AI 助理試圖破解 Hugging Face 評測的事件,說明這種風險可能如何一步步擴大。
  • 但這只是他的推演,當時的事件並沒有發展成失控接管。他也提到,可以改進評分方式或監看模型推理來找出不當行為,但目前還不能確定這些方法能否奏效,因此主張業界放慢開發,爭取時間做好防護。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

信源出處arstechnica.com

OpenAI board member worries an AI "takeover" of society could be months away

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Ars Technica · AI (arstechnica.com)
開啟原文

讀者討論

理性交流 · 即時討論