跳到正文
Vercel Blog· Kevin Dawkins·· 3 天前精選AI 評分67

OpenAI Ultrafast 模式現已支援 Vercel AI Gateway

OpenAI Ultrafast mode now available on AI Gateway

AI 導讀

OpenAI Ultrafast 現已可於 Vercel AI Gateway 使用,為 GPT‑6 Astra 提供更快輸出,特別適用於頻繁工具呼叫與快速編碼迭代。

推薦理由

OpenAI Ultrafast 服務層為 Vercel AI Gateway 提供更快回應,對需要頻繁工具呼叫的互動式應用與快速編碼迭代具有實質效能提升。

正文 · AI 翻譯

AI Gateway 現已支援 OpenAI 的 Ultrafast 服務層級,適用於 GPT-6 Astra,為互動式應用與快速編碼迭代提供更快輸出。

要使用 Ultrafast,請透過 AI SDK、Chat Completions API 或 Responses API 對 openai/gpt-6-astra 傳送請求:

對於頻繁呼叫工具的工作流程,OpenAI 建議使用 Responses API 而非持續的 WebSocket 連線,以減少回合之間的開銷。請參閱 Ultrafast 服務層級範例 以瞭解持續連線,包括 AI SDK 的 WebSocket。

Ultrafast 支援美國及全球處理。被固定至不支援區域(如 EU)的請求將以標準(default)層級執行。若未指定服務層級,仍以標準處理為預設。

在 Ultrafast 服務層級處理的請求,按標準每個 token 速率的 6 倍計費;若請求退回至其他層級,則按實際服務層級的費率計費。請檢視 GPT-6 Astra 模型頁面 以瞭解最新費率。

來源:Vercel Blog · vercel.com