OpenAI邀請4家外部機構進駐,檢查模型安全與監控
OpenAI開放4家外部機構進駐,深入檢驗AI模型安全性
重點導讀
只靠 API 測試,外部研究人員可能看不到模型內部和安全監控的問題。
- OpenAI 啟動第一階段嵌入式評估,邀請 Apollo Research、METR、Transluce 和 Goodfire 進駐,依各自任務檢查模型是否會隱瞞意圖、違背開發者指示,或出現現有測試沒發現的行為。
- 研究人員可接觸尚未發布的模型、程式碼、訓練資料和監控系統,也能與 OpenAI 研究人員交流。
- 參與機構可以自行發布報告,但 OpenAI 可要求移除機密資訊,或延後公開與安全風險有關的發現。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處ithome.com.tw
OpenAI開放4家外部機構進駐,深入檢驗AI模型安全性
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: iThome (臺灣) (ithome.com.tw)
開啟原文