Nick Heiner 談後訓練、失準的基準測試與 AI 垃圾內容 | Surge AI
Surge AI 的 Nick Heiner 指出,後訓練資料工作本質上就是「獎勵函式即服務」(reward function as a service);他並主張,像 IFEval、LMArena 這類資源不足、容易被鑽漏洞的評測基準,是衡量 AI 行為的核心障礙。
Surge AI 的 Nick Heiner 指出,後訓練資料工作本質上就是「獎勵函式即服務」(reward function as a service);他並主張,像 IFEval、LMArena 這類資源不足、容易被鑽漏洞的評測基準,是衡量 AI 行為的核心障礙。