Vercel AI Gateway 內新增 OpenAI Ultrafast 服務支援
OpenAI Ultrafast mode now available on AI Gateway
重點導讀
Vercel AI Gateway 內新增對 OpenAI Ultrafast 服務的支援,提供更快輸出以加速互動式應用與快速編碼迭代。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
正文 · 中文翻譯
AI Gateway 現已支援 OpenAI 的 Ultrafast 服務層級,適用於 GPT-6 Astra,為互動式應用與快速編碼迭代提供更快輸出。
要使用 Ultrafast,請透過 AI SDK、Chat Completions API 或 Responses API 對 openai/gpt-6-astra 傳送請求:
對於頻繁呼叫工具的工作流程,OpenAI 建議使用 Responses API 而非持續的 WebSocket 連線,以減少回合之間的開銷。請參閱 Ultrafast 服務層級範例 以瞭解持續連線,包括 AI SDK 的 WebSocket。
Ultrafast 支援美國及全球處理。被固定至不支援區域(如 EU)的請求將以標準(default)層級執行。若未指定服務層級,仍以標準處理為預設。
在 Ultrafast 服務層級處理的請求,按標準每個 token 速率的 6 倍計費;若請求退回至其他層級,則按實際服務層級的費率計費。請檢視 GPT-6 Astra 模型頁面 以瞭解最新費率。
來源: Vercel Blog (vercel.com)
開啟原文