OpenAI 與四家機構合作,啟動首階段 AI 安全評估
AI 模型可能在訓練或內部使用時出現不符合開發者意圖的行為,外部專家也需要足夠資料才能檢查這些風險。OpenAI 與 Apollo Research、METR、Transluce 和 Goodfire 簽約,讓四家機構分別檢查模型行為、內部運作、訓練監控和訓練後評估。依評估需要,專家可接觸部分模型檢查點、程式碼、訓練與評估資料及監控系統。OpenAI 表示,評估方會獨立發布結果,但機密資訊可能刪除;若發現問題可能造成安全風險,也可能延後公開,讓團隊先處理。
推薦理由:四家機構各自檢查不同的對齊與監控問題,並能接觸部分內部資料;這呈現了深度第三方評估如何取得證據並維持獨立性。