實測發現內容越短越容易被 AI 助理記住:開發者該怎麼設計輸出
Percent retention taught me shorter outputs win — what agents shipping here should learn
重點導讀
轉換工具把檔案變成 Markdown 後,AI 助理不一定能把內容全看完;內容太長,還可能在下一次操作前被刪掉或縮短。
- 作者花三週觀察這些文字有多少留在 AI 助理的上下文裡:少於約 2,000 個 token 的頁面,保留率超過 90%。
- 超過約 8,000 個 token,保留率就不到 40%。有標題和表格會稍微有幫助,但長度影響最大。作者因此把字數上限選項放在轉換工具的顯眼位置,也依模型實際能用的上下文大小設定上限。結果,摘要、找答案和擷取資料的表現都變好。
- 設計輸出時,該看有多少內容真的留下來,而不只是送出了多少。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
Percent retention taught me shorter outputs win — what agents shipping here should learn
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文