重點導讀
要確認 AI 系統能不能妥善管理風險,光靠開發團隊自己檢查並不夠。
- OpenAI 正與 Apollo Research、METR_Evals、TransluceAI 和 GoodfireAI 合作,讓外部專家深入檢視內部模型與系統,研究模型對齊並測試安全防護措施。
- OpenAI 表示,這些評估會延續它正在進行的對齊與安全研究,並加入外部檢視。
- 原文沒有說明評估結果或發現了哪些問題。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
OpenAI@OpenAI
·6 天前
We’re working with @ApolloResearch, @METR_Evals, @TransluceAI, and @GoodfireAI on embedded assessments: giving outside experts deep access to our internal models and systems to investigate alignment and test our safeguards.
These assessments build on our ongoing alignment and safety research, bringing independent scrutiny to how we identify and manage risks in our systems.
推文來源 · X (Twitter)在 X 參與討論