LLM 評測標準為何持續變動:模型不變,人類判斷也會漂移
Your judge is drifting too — why evaluation standards move even when the model doesn't
重點導讀
**LLM 評測的多項研究指出,即使模型本身沒有變化,人類評分與自動評測工具的判斷也可能漂移,且漂移幅度有時大於團隊想測量的品質訊號。
- - 人類評分漂移:研究分析 126 萬筆 Chatbot Arena 盲測投票,發現「兩者都不好」的判定率每月上升約 1.7 至 1.9 個百分點**。
- 模型間的相對排名維持穩定,變動的是絕對評分標準。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
Your judge is drifting too — why evaluation standards move even when the model doesn't
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文