跳到正文
Dev.to Top Tech(dev.to)· Ronny·· 4 天前品質評分58

Ronny 測試 GPT-6.2 Sol 的快取配置,提示詞位置影響回報涵蓋率

A GPT-6.2 Sol cache-layout finding in Hermes: sandbox result, not measured savings

重點導讀

提示詞放在不同位置,可能讓 GPT-6.2 Sol 後續請求回報的快取涵蓋率差很多。

  • Ronny 在沙盒中測試約 12.3K 個 token 的合成提示詞,把內容移到第一個輸入專案,並保留一段較短的固定指示後,暖機後回報的涵蓋率從 0–45% 升到 97–99%。
  • GPT-6.1 Sol 對照組為 98–99%。不過四次修改測試中有兩次第二個請求仍是冷啟動,而且這不是已發布的修正。測試時也要確認實際送出請求的程式用了修改後的設定。
  • 較高的快取涵蓋率尚未證明能省下費用,長任務的成本也還沒測量。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

信源出處dev.to

A GPT-6.2 Sol cache-layout finding in Hermes: sandbox result, not measured savings

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Dev.to Top Tech (dev.to)
開啟原文

讀者討論

理性交流 · 即時討論