OpenAI Alignment Research Blog(alignment.openai.com)· Zoë Hitzig, Mitchell Gordon, Tyna Eloundou, Adam Kalai and Sandhini Agarwal·· 2026-01-15精選品質評分70
CoVal:從眾包學習價值導向評分標準
CoVal: Learning values-aware rubrics from the crowd
重點導讀
CoVal 是一套從眾包獲得的價值導向評分標準與對應的人工標記資料集。
透過將衝突性提示與可審計的評分標準配對,研究者能量化並解釋人類對機器回覆的偏好差異。
推薦理由
本研究提供可直接量化模型偏好差異的資料與評分方法,對 AI 取向與安全評估具有重要參考價值,並促進跨研究者對價值衝突的可解釋性探討。
信源出處alignment.openai.com
CoVal: Learning values-aware rubrics from the crowd
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: OpenAI Alignment Research Blog (alignment.openai.com)
開啟原文