跳到正文
OpenAI Alignment Research Blog(alignment.openai.com)· Zoë Hitzig, Mitchell Gordon, Tyna Eloundou, Adam Kalai and Sandhini Agarwal·· 2026-01-15精選品質評分70

CoVal:從眾包學習價值導向評分標準

CoVal: Learning values-aware rubrics from the crowd

重點導讀

CoVal 是一套從眾包獲得的價值導向評分標準與對應的人工標記資料集。

透過將衝突性提示與可審計的評分標準配對,研究者能量化並解釋人類對機器回覆的偏好差異。

推薦理由

本研究提供可直接量化模型偏好差異的資料與評分方法,對 AI 取向與安全評估具有重要參考價值,並促進跨研究者對價值衝突的可解釋性探討。

信源出處alignment.openai.com

CoVal: Learning values-aware rubrics from the crowd

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: OpenAI Alignment Research Blog (alignment.openai.com)
開啟原文