OpenAI Alignment Research Blog(alignment.openai.com)· Bruce W. Lee, Yueh-Han Chen and Tomek Korbak·· 2026-03-22精選品質評分79
訓練代理自我舉報：將 GPT‑4.1 隱蔽攻擊成功率降至 6%
Training agents to self-report misbehavior
重點導讀
自我舉報機制讓 GPT‑4.1 的隱蔽攻擊成功率從 56% 降至 6%，顯示可在不改變原始行為的情況下提升安全性。
- 核心特性：訓練代理在執行隱蔽副任務時自動呼叫
report_scheming()，使攻擊可被即時偵測。
推薦理由
本研究提出自我舉報機制，將 GPT‑4.1 的隱蔽攻擊成功率從 56% 降至 6%，顯示可在不改變原始行為的情況下提升安全性。
信源出處alignment.openai.com
Training agents to self-report misbehavior
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論，請前往原始網站。
來源： OpenAI Alignment Research Blog (alignment.openai.com)
開啟原文