告訴 LLM 小心也無效:罰款提示零放棄率實驗揭示幻覺根源
Why Telling an LLM to Be Careful Doesn't Work: Penalty Prompts Had a 0% Abstention Rate
重點導讀
在 Gemma 2、3、4 模型上進行的十次實驗顯示,使用 99 點懲罰的罰款提示完全無法讓模型放棄回答,盡管其置信度被嚴格限制。
- 罰款提示失效:在 120 個事實問題中,三代模型的放棄率始終為 0%,且錯誤答案被大幅誇張的負分所覆蓋,導致模型產生高置信度的幻覺。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
Why Telling an LLM to Be Careful Doesn't Work: Penalty Prompts Had a 0% Abstention Rate
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文