Ronny 測試 GPT-6.2 Sol 的快取配置,提示詞位置影響回報涵蓋率
A GPT-6.2 Sol cache-layout finding in Hermes: sandbox result, not measured savings
重點導讀
提示詞放在不同位置,可能讓 GPT-6.2 Sol 後續請求回報的快取涵蓋率差很多。
- Ronny 在沙盒中測試約 12.3K 個 token 的合成提示詞,把內容移到第一個輸入專案,並保留一段較短的固定指示後,暖機後回報的涵蓋率從 0–45% 升到 97–99%。
- GPT-6.1 Sol 對照組為 98–99%。不過四次修改測試中有兩次第二個請求仍是冷啟動,而且這不是已發布的修正。測試時也要確認實際送出請求的程式用了修改後的設定。
- 較高的快取涵蓋率尚未證明能省下費用,長任務的成本也還沒測量。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
A GPT-6.2 Sol cache-layout finding in Hermes: sandbox result, not measured savings
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文