如何讓 AI 助理在不知道時停止回答
Your AI agent needs a way to say "I don't know"
重點導讀
AI 助理只有「回答」和「出錯」兩種選擇時,遇到資料不足或彼此矛盾的情況,還是可能硬著頭皮作答。
- 作者建議在程式中加入「無法判斷」的出口,依缺少欄位、檢查失敗或資料衝突等明確條件停止。
- 模型自己說有多確定,只能當參考,不能作為唯一門檻。停止的案件要交給負責的人處理,並記下原因和後續決定。
- 測試時也要放入本來就沒有答案的案例,追蹤哪些案件被轉交,以及哪些該停止卻仍然作答。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
Your AI agent needs a way to say "I don't know"
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文