跳到正文
iThome (臺灣)(ithome.com.tw)· 陳曉莉·· 6 天前品質評分71

OpenAI邀請4家外部機構進駐,檢查模型安全與監控

OpenAI開放4家外部機構進駐,深入檢驗AI模型安全性

重點導讀

只靠 API 測試,外部研究人員可能看不到模型內部和安全監控的問題。

  • OpenAI 啟動第一階段嵌入式評估,邀請 Apollo Research、METR、Transluce 和 Goodfire 進駐,依各自任務檢查模型是否會隱瞞意圖、違背開發者指示,或出現現有測試沒發現的行為。
  • 研究人員可接觸尚未發布的模型、程式碼、訓練資料和監控系統,也能與 OpenAI 研究人員交流。
  • 參與機構可以自行發布報告,但 OpenAI 可要求移除機密資訊,或延後公開與安全風險有關的發現。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

信源出處ithome.com.tw

OpenAI開放4家外部機構進駐,深入檢驗AI模型安全性

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: iThome (臺灣) (ithome.com.tw)
開啟原文

讀者討論

理性交流 · 即時討論