OpenAI 開放內部 AI 系統,讓四家外部機構到場檢查
OpenAI opens its AI systems to four independent on-site auditors for the first time
重點導讀
外界要了解 AI 系統有哪些安全風險,往往難以直接檢視模型內部。
- OpenAI 讓 Apollo Research、METR、Transluce 和 Goodfire 四家外部機構到辦公室檢查,依各自任務檢視未發布模型、原始碼、訓練資料或監控系統,也能私下訪談開發者。各機構分別檢查模型是否暗中違背開發者意圖、最大規模強化學習訓練中的模型不當行為、模型內部運作,以及訓練後的安全檢查。獨立安全委員會負責監督並接收未刪節報告。
- OpenAI 可遮蔽機密內容,也可先延後報告以處理風險。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
四家外部機構可依任務檢視未發布模型、程式碼與訓練資料,並直接訪談開發者;文章也交代了審查範圍與報告發布方式。
信源出處the-decoder.com
OpenAI opens its AI systems to four independent on-site auditors for the first time
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: The Decoder (the-decoder.com)
開啟原文