為什麼 LLM 想得越久,有時反而越容易答錯?
Why Thinking More Can Make an LLM Dumb
重點導讀
多想幾步有時能幫 LLM 找出錯誤,但也可能讓它把原本正確的答案改錯。LLM 會一小段一小段地寫出內容,前面寫下的想法會影響後面的推算。像商品先漲 20% 再降 20%,最後是 $96;先算出漲價後的 $120,就比較不容易把兩次變化誤認為互相抵銷。DeepSeek 用評分方式訓練 R1-Zero,讓模型從多次嘗試的結果中學習哪些解法比較好,也可能回頭檢查先前的步驟。不過,模型有時答對後還會繼續推演:研究中的模型算出「2 + 3」等於 5 後,又接著寫出其他解法。這提醒我們,多花時間思考不一定讓答案更好;模型也得學會何時該停下來。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處blog.bytebytego.com
Why Thinking More Can Make an LLM Dumb
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: ByteByteGo Newsletter (Alex Xu) (blog.bytebytego.com)
開啟原文