跳到正文
OpenAI News(openai.com)·· 7 天前精選品質評分77

OpenAI 邀四家獨立團隊檢查模型安全措施

Our first phase of embedded assessments

重點導讀

外界不容易看清 AI 公司如何檢查模型風險,OpenAI 因此和 Apollo Research、METR、Transluce、Goodfire 簽署協議,讓他們深入評估模型對齊和安全措施。

  • 評估人員會依工作需要檢視部分模型、訓練資料、監控紀錄,也能和相關研究人員交流。
  • 例如 Apollo Research 會檢查模型是否可能暗中違背開發者的意圖,以及安全措施能否發現這類行為。OpenAI 表示,評估團隊可獨立進行工作並發布發現,但敏感資料可能會被遮蔽,遇到安全風險時也可能延後公開。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

OpenAI讓四家獨立評估團隊接觸內部模型與安全資料,並說明保密、監督和公開報告的安排,可看出外部檢查如何進入實際安全工作。

信源出處openai.com

Our first phase of embedded assessments

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: OpenAI News (openai.com)
開啟原文

讀者討論

理性交流 · 即時討論