跳到正文
Dev.to Top Tech(dev.to)· CryptoPunk Dz2·· 5 天前品質評分49

AI 助理用 Claude Code 等工具接續舊對話,真正影響用量的是上下文大小

My context grew 6x in three months. That decides the cache question

重點導讀

接續很長的舊對話時,快取能省下多少用量,取決於資料有沒有還留在快取裡,但更關鍵的是上下文有多大。作者量到,自己的對話上下文中位數從 8 月的 91,549 個 token,增加到 11 月的 546,151 個,約是 6 倍;快取命中時,接續一次約耗用 55,000 個 token 的等值用量,沒命中則要用完整的 546,151 個。如果對話很長,而且隔了一天才回來,作者建議先把內容整理成較短的摘要,再開新對話,因為上下文變小後,後續每次提問都比較省。不過整理內容會改變對話開頭,讓快取無法沿用,而且這裡還得手動貼上整理指示。文章也提醒,Claude Code、Codex、Antigravity 和 Cursor 的快取資訊並不完整;部分價格說法來自互相矛盾的非官方資料,因此不能把它們當成已確認的定價。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

信源出處dev.to

My context grew 6x in three months. That decides the cache question

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Dev.to Top Tech (dev.to)
開啟原文

讀者討論

理性交流 · 即時討論