跳到正文
Dev.to Top Tech(dev.to)· Hammad Malik·· 3 天前品質評分67

提示詞快取不一定省錢:OpenAI、Anthropic 和 Google 的寫入費怎麼算

Cache Write Pricing: The Surcharge You Pay Before Prompt Caching Saves You Anything

重點導讀

提示詞快取的讀取費率很低,但把內容存進快取時也要付費;如果之後沒再用到,帳單可能比不開快取更高。

  • 文章用 100,000 個 token 的提示詞說明,短時間快取要重複讀取 1 次才划算,較長時間快取則要讀取 2 次。像是隻送出一次的大型檔案、兩次請求間隔太久,或每次都改動提示詞開頭,都可能讓內容反覆寫入,只有費用增加、沒有省到讀取費。作者建議分開記錄寫入和讀取用量,再依實際流量計算省下多少。
  • 快取儲存時間也要配合請求間隔。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

信源出處dev.to

Cache Write Pricing: The Surcharge You Pay Before Prompt Caching Saves You Anything

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Dev.to Top Tech (dev.to)
開啟原文

讀者討論

理性交流 · 即時討論