OpenAI News·· 14d agoFeaturedAI Score75
OpenAI 发布模型对齐异常报告框架并公布六项早期观察案例
Our framework for reporting model misalignment
AI Summary
OpenAI 发布了一套用于追踪、调查和披露模型对齐异常的新框架，旨在提高行业透明度并推动对齐研究的公开讨论，同时首批公开了六项在训练或评估期间观察到的模型异常行为报告。
Why Recommended
该框架明确了模型对齐异常的披露标准与流程，有助于外部研究人员检验并推动行业透明度。
Source: OpenAI News · openai.com