OpenAI 邀 Apollo 安全研究員進駐,調查模型是否破壞安全機制
OpenAI will embed safety researchers to investigate AI subversion
重點導讀
AI 模型可能試著避開人類設下的安全規則,外部研究員也不一定看得到訓練期間發生的事。
- OpenAI 將讓 Apollo Research 的 6 名安全評估員進入公司,試查模型是否會破壞自己或後續版本的安全與控制機制。研究員可檢視相關訓練程式碼、資料集和部分訓練紀錄,也能測試中途版本。
- 但只能接觸雙方約定的模型與期間,OpenAI 仍可因技術、安全或智慧財產考量隱藏部分資訊。Apollo 可以公佈結論,但公開證據也可能受限,因此外界不一定能自行核對研究結果。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處techcrunch.com
OpenAI will embed safety researchers to investigate AI subversion
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: TechCrunch · AI (techcrunch.com)
開啟原文