Reflection 解析 Beam 開源模型安全訓練與評估方法
Reflection 詳解開源模型 Beam 的安全訓練與評估方法
重點導讀
Reflection 解析 Beam 開源模型安全訓練與評估方法，並公佈 Project Iris 開源安全研究計畫，為開源模型安全實踐提供參考路徑。
- Beam 在 Project Iris Safety Evaluations 對話任務中拒絕 89% 有害請求，符合 82% 安全相關無害請求。
AI 伴隨問答
針對這篇報導有疑問？可直接點選快捷問題或向 AI 追問背景脈絡與技術細節：
正文
Reflection Blog·2026-11-06 01:00· 50 分鐘前精選AI 評分66
Open model safety: lessons from training and evaluating Beam
AI 導讀
Reflection 釋出博文，講解其開源權重模型 Beam 的安全訓練與評估方法，並推出開源安全研究計劃 Project Iris。Beam 在 Iris Safety Evaluations 對話任務中拒絕 89% 的有害請求，為所測開源權重模型中最高，同時遵守 82% 的安全相關無害請求；安全對齊教師模型從 100B 增至 501B 引數後，過度拒絕相對下降 48.7%。
推薦理由
原文拆解了 Beam 的安全訓練方法與雙軌評估體系，並給出關鍵數字，為開源模型安全實踐提供可參照的路徑。
來源：Reflection Blog · reflection.ai