跳到正文
Dev.to Top Tech(dev.to)· 尚毅段·· 2 天前品質評分68

長提示詞跨過費率門檻,GPT-6.1 Sol 和 Gemini 3.1 Pro 的費用差多少

The context cliff: 200K, 272K, and the line that doubles your prompt bill

重點導讀

模型 API 的費率表常只看每百萬 token 的標價,但提示詞長度一跨過門檻,整筆請求可能改用較高費率。

  • 文章比較多款模型的門檻,例如 Gemini 3.1 Pro 在 200K token 後輸入費用加倍,GPT-6.1 Sol 的門檻則是 272K。用 199,999 和 200,001 個輸入 token、再加上 10K 輸出的例子,Gemini 費用從 $0.52 跳到 $0.98,GPT-6.1 Sol 都是 $0.50。作者建議逐次記錄輸入長度,特別檢視超過門檻的請求比例,並先用自己的用量測試長請求費率。
  • 若提示詞太長,也可考慮摘要或分段。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

信源出處dev.to

The context cliff: 200K, 272K, and the line that doubles your prompt bill

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Dev.to Top Tech (dev.to)
開啟原文

讀者討論

理性交流 · 即時討論