跳到正文
熱點事件持續更新

OpenAI adds 12-hour prompt caching to API

1 篇報導1 個報導來源6 小時前更新

先了解這件事

AI 綜述

OpenAI API 允許 12 小時 prompt 快取,持久代理可跨日重用上下文,節省快取費用,提升長期互動效能。

  • 12 小時快取:可在 API 內設定 prompt 12 小時快取,延長共享指令、工具與上下文的有效期。
  • 持久代理:如 dots 等代理可在同一天多次呼叫時重用同一上下文。
  • 成本最佳化:即使請求相隔數小時,也能以較低的 cached‑input 率支付。

AI 根據報導生成 · 2 小時前更新

報導時間線

沿著報導,瞭解事件的不同面向。

10月21日
  1. OpenAIDevs
    OpenAI API 允許 12 小時 prompt 快取,持久代理可跨日重用上下文

    OpenAI API 允許 12 小時 prompt 快取,持久代理可跨日重用上下文,節省快取費用,提升長期互動效能。 12 小時快取:可在 API 內設定 prompt 12 小時快取,延長共享指令、工具與上下文的有效期。 持久代理:如 dots 等代理可在同一天多次呼叫時重用同一上下文。 成本最佳化:即使請求相隔數小時,也能以較低的 cached‑input 率支付。

本事件熱度趨勢

還沒有足夠的連續觀測資料,暫不繪製趨勢。