AI 導讀
OpenAI API 允許 12 小時 prompt 快取，持久代理可跨日重用上下文，節省快取費用，提升長期互動效能。
- 12 小時快取：可在 API 內設定 prompt 12 小時快取，延長共享指令、工具與上下文的有效期。
- 持久代理：如 dots 等代理可在同一天多次呼叫時重用同一上下文。
- 成本最佳化：即使請求相隔數小時，也能以較低的 cached‑input 率支付。
O
OpenAIDevs@openaidevs
·6 小時前
* You can now choose 12-hour prompt caching in the API. Persistent agents, like dots, reuse context throughout the day. You can keep shared instructions, tools, and context cached longer and pay the lower cached-input rate, even when requests are hours apart.
推文來源 · X (Twitter)在 X 參與討論
來源： OpenAIDevs (x.com)
在 X 查看推文