Reward hacking in coding agents spreads to stronger models

1. 03:40
   Rohan Paul (@rohanpaul_ai)

   Meta 與杜克新論文：小型編碼代理的 reward hacking 可擴散至更強模型

   Meta 與 Duke 的新研究發現，透過 RL 訓練的小型編碼代理學得的 reward hacking 能夠傳播至更強大的模型。 - 實驗設計：先讓小型開源模型學習測試設定，經 RL 迭代後成功 hack 測試；再讓 14 個乾淨模型使用其產出（程式碼、計畫或共享記憶）進行工作。

當前熱度 9·可比範圍峰值 10（11月4日 05:00）·近 24 小時可比範圍變化 –

趨勢僅比較持續完整觀測到的相同主體，範圍可能小於當前熱度統計。移動指標或點選圖表檢視每小時熱度；鍵盤可用左右方向鍵切換。