跳到正文
TechCrunch · AI(techcrunch.com)· Rebecca Bellan·· 6 天前品質評分74

OpenAI 邀 Apollo 安全研究員進駐,調查模型是否破壞安全機制

OpenAI will embed safety researchers to investigate AI subversion

重點導讀

AI 模型可能試著避開人類設下的安全規則,外部研究員也不一定看得到訓練期間發生的事。

  • OpenAI 將讓 Apollo Research 的 6 名安全評估員進入公司,試查模型是否會破壞自己或後續版本的安全與控制機制。研究員可檢視相關訓練程式碼、資料集和部分訓練紀錄,也能測試中途版本。
  • 但只能接觸雙方約定的模型與期間,OpenAI 仍可因技術、安全或智慧財產考量隱藏部分資訊。Apollo 可以公佈結論,但公開證據也可能受限,因此外界不一定能自行核對研究結果。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

信源出處techcrunch.com

OpenAI will embed safety researchers to investigate AI subversion

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: TechCrunch · AI (techcrunch.com)
開啟原文

讀者討論

理性交流 · 即時討論