GPT-Live 1 現已於 AI Gateway 上可用
GPT-Live 1 現已於 Vercel 的 AI Gateway 上可用,支援全雙工語音對話。 - 全雙工功能:同時聽取與說話,消除傳統語音模型的切換延遲。
GPT-Live 1 現已於 Vercel 的 AI Gateway 上可用,支援全雙工語音對話。 - 全雙工功能:同時聽取與說話,消除傳統語音模型的切換延遲。
Mem0 現已成為 Vercel Marketplace 的原生整合,為 AI 代理與應用提供長期記憶。 - 功能:讓 AI 代理記住使用者偏好、事實與上下文,避免每次從頭開始。
OpenAI 推出基於 AI 的全新廣告體驗,包括 Sponsored Agents、營銷人員工具以及與 HubSpot 和 Shopify 的整合。
Mistral 與 Mozilla 合作,將 Mistral 模型嵌入 Firefox Smart Window,支援法國和北美使用者,英國和德國將於今年晚些時候上線。
Hex 藉助 GPT‑6 Astra 幫助其資料AI 助理將複雜分析結果轉化為可分享的互動式視覺化報告。該功能使企業員工能夠輕鬆將資料答案轉變為直觀的視覺化內容。
Jev 是 TypeSafe AI 的一個機率決策模型,現在已可在 Vercel 的 AI Gateway 上使用。 - 速度與成本:在工作流程評估中,Jev 的執行速度比 LLM 高 193.6 倍,成本低 444.6 倍。
summary_zh: Is Agentic 讓使用者可依網站型別檢視審核結果,提供四種檢視:Docs & content、Business、App 與 Commerce。
NVIDIA 推出旨在最佳化 AI 工廠每兆瓦 token 吞吐量的技術套件 NVIDIA DSX,涵蓋動態功耗分配、網格協同排程及生命週期管理等功能。Lambda 的實測結果顯示,在固定電源預算下利用 NVIDIA DSX MaxLPS 執行叢集可提升 24% 的 token 吞吐量。該平臺通過智慧化排程與即時監控,有效釋放了傳統靜態配置下的閒置算力。
ATLAS 於 Google 官方推出一個互動式開放式視覺化平臺,讓使用者能輕鬆探索全球 AI 採用資料。 - 互動式體驗:提供電工、採購經理等多種職業 AI 使用率的視覺化,支援按國家、職業層級切分。
summary_zh: Delphi 在 Vercel 上以 Python 後端每天釋出 100+ 次,透過 Vercel Workflows 與 Queues 讓部署流程簡化,並支援即時 A/B 測試與異常偵測。
Descript 透過採用 OpenRouter 作為其生產環境的推理層,將影片編輯 agent Underlord 所使用的生產環境模型數量從 1 個擴增至 13 個,並將新模型的評估時間從過去的 1週以上 縮短至 1至2小時。
AI SDK harness 現在支援原生訂閱驗證,讓開發者可在不改寫程式碼的情況下切換不同 AI 代理。 - 認證模式:直接模式使用明確的提供者環境憑證,或在缺少時使用主機上的原生訂閱;自動模式在未設定 AI Gateway 憑證時亦同樣行為;ai-gateway 模式不讀取原生訂閱。
Fyxer 利用 OpenAI 模型、微調、記憶功能和真實使用者反饋來整理收件箱,並以每個使用者的獨特語氣撰寫電子郵件。該系統通過深度定製與使用者習慣對齊,從而構建出人們信賴的 AI 智慧助理。
OpenWiki 讓 Credit Genie 以自動化方式保持檔案持續更新,提升開發效率與跨部門溝通。 - 自動化文件生成:OpenWiki 每日檢測提交變更,若有差異即產生 PR,並自動合併,確保文件始終與程式碼同步。
推薦理由:OpenWiki 讓 Credit Genie 以自動化方式保持檔案更新,提升開發效率與跨部門溝通。透過每日自動拉取並產生 PR,開發團隊與 AI 代理可即時取得準確的系統知識,消除傳統手動維護的痛點。
Perplexity 藉助 GPT-6 Astra 來編寫通訊內容、修改軟體以及監控生產系統,且檢查頻率比早期模型顯著降低。
Modal 產品更新 - 多模型支援:Kimi K3、Qwen 3.8、GLM 5.3 及 GLM 5.3 Flash 皆可即時使用,提供 Shared Endpoint(token 計費)與 Dedicated Endpoint(GPU 秒計費)。
OpenAI 將 Habitat 從 Python 庫演進為全球分散式儲存平臺,支援 10 億 ChatGPT 使用者和 22M 請求/秒。
summary_zh: - **Featured 的使用者每月透過 Vercel 傳送超過 100,000 筆媒體投遞,並在一年內傳送超過 1 億封 Help A Reporter Out (HARO) 電子郵件。
Tailscale 利用 Vercel AI Gateway 快速搭建了客戶面向的模型路由器,並提供零資料保留與低延遲的安全執行環境。 - 核心功能:透過單一 API 管理數百個模型,並自動回傳成本與使用量。
Together Fine‑Tuning 於 2026 年 9 月 11 日推出新版,支援更多開放權重模型、即時實驗追蹤、專家 LoRA 及早停功能,並降價 30–70%。
推薦理由:此更新提供更完整的實驗追蹤與成本最佳化,讓使用者能即時調整訓練策略,並以更低成本部署多模型,同時支援專家 LoRA 及早停功能。
Fusion 於 Devin Desktop 與 CLI 上推出,讓開發者可同時使用前沿模型與成本效益模型,提升 39% 以上的編碼效能。 - 架構:兩個獨立代理,主導模型負責規劃與審核,副手模型負責執行與測試,僅交換簡短摘要,保持 prompt 快取。
GitHub Copilot app 推出了內建的 diff、終端和瀏覽器面板,讓使用者無需切換應用即可審查 AI 生成的程式碼、執行命令並測試介面。通過這些並排的內建面板,使用者可以閉環完成審查、執行和預覽,安全地合併程式碼並建立 pull request。
summary_zh: GitHub Copilot 現已可透過官方 @ai-sdk/harness-github-copilot 連線至 AI SDK harness 層,讓開發者能以同一 HarnessAgent 介面執行多種 coding agents,無需改動程式碼。
Microsoft 正式發布 ONNX Runtime v1.30.0,大幅擴充套件生成式 AI 推理能力、提升 CPU 與 GPU 效能,並新增 Go 語言繫結與強化執行期可靠性。
OpenAI 在 ChatGPT Work 中推出 Data agent,支援連線公司資料、用自然語言查詢並生成互動式儀表盤。該功能讓使用者無需編寫程式碼即可獲取洞察,提升資料視覺化效率。
Axolotl v0.19.0 釋出宣告式模型支援與多新模型家族,提供更簡易的微調流程並提升推理效能。 - 宣告式模型支援:模型只需宣告差異,省去多處配置。
Replit 推出與 Databricks 的整合,並新增原生 Lakebase 支援,讓企業能快速從構思到上線全棧應用,同時保留 Databricks 的治理與安全功能。
功能開發、程式碼遷移和日常維護常需要跨多個 PR 持續進行,單次對話很難接手整段工作。Cursor 推出 Projects,讓開發者透過協調 AI 助理安排工作,由其他 AI 助理分頭寫程式碼;每個 Project 會累積共用背景,也能在雲端執行、需要時切換到本地,並依 Slack 訊息、排程或 PR 狀態主動處理任務。Cursor 表示,主要使用 Projects 的內部使用者,合併 PR 的數量達原來六倍;這項功能目前進入 beta,正逐步開放給所有使用者。
推薦理由:Projects 把多步驟開發工作交給協調 AI 助理分工,並累積共用背景,適合瞭解它如何支援功能開發、程式碼遷移與日常維護。
OpenAI 推出 ChatGPT for Financial Services,結合內建金融資料與 GPT-6 Astra 模型,用於研究、建模和客戶交付材料的準備。
OpenAI 宣佈與 GSA 合作,為符合條件的聯邦、州、地方和部族政府提供零許可費、使用費五折優惠以及擴大的網路安全支援。
ONNX Runtime v1.29.1 發布,此為基於 v1.29.0 的修補版本,主要新增群組查詢注意力機制(GroupQueryAttention)支援、KV 記憶體區塊佈局改善、外掛程式執行提供者(Execution Provider)效能工具更新,以及針對圖形與最佳化器的修正。
OpenRouter 正式推出 Presets 功能,支援將模型選擇、系統提示詞、提供者路由與取樣引數集中儲存於儀錶板中,並透過 @preset/slug 在 API 請求中直接呼叫。
OpenRouter 正式推出複合式推理系統 Fusion,能將單一提示詞同時傳送給多個模型進行平行審議,並透過裁判模型與呼叫模型綜合產出最終解答。
Together AI 推出可預約計算功能,讓 GPU 叢集以 50% 之低成本執行可中斷工作。 - 計費方式:子小時計費,單價為按需費用的 50%。
推薦理由:預算敏感型工作負載可利用此功能以 50% 成本節省,並保持與標準節點相同的 GPU 基礎設施,支援 Ray Train 與 PyTorch Lightning。
OpenAI 推出了 Agents API 託管服務,支援基於 Codex 框架進行任務編排、長會話和工具呼叫,幫助開發者構建和部署雲端AI 助理。
summary_zh: Tako Search 在 AI Gateway 免費使用至 9 月 30 日,允許 AI 模型搜尋 Tako 的精選資料與即時網路,並以篩選域名或釋出日期的結果回答問題,附上引用與視覺化。
summary_zh: 現在可以在 Vercel 上使用 OpenAI Agents API 建置並部署長時間執行、使用工具的代理程式。 - 代理迴圈與會話狀態:由 OpenAI 管理,確保代理持續運作。
Graidio 團隊釋出了 Workflow1111,這是一個基於 Gradio Workflow 重構 AUTOMATIC1111 功能集的單工作流畫布,包含由 73 個節點和 11 條媒體管線組成的圖表。
ThunderKittens 已在 NVIDIA Vera Rubin NVL72 上完成最佳化,能以 NVFP4 與 FP8 格式執行 GEMM。 - 新 ISA 功能:Vera Rubin 支援 64‑byte K 步、576 欄張量記憶體、328 KiB 共享記憶體,並新增 B‑side collector 與 early A release 指令。
部署 DeepSeek-V4.1 時,龐大的記憶體需求和複雜的運算流程會佔用硬體資源。SGLang 和 Miles 加入支援,讓 Engram 記憶表可放到主機記憶體,釋出 GPU 空間;也能只重算部分內容,減少前置處理時間。在測試中,主機記憶體配置讓 KV cache 容量增加 36%;有限重算則讓前置處理速度提升 1.56 倍或 1.37 倍。重算會帶來近似結果,部分功能也有限制,因此需要依工作需求選擇。
推薦理由:文章比較 DeepSeek-V4.1 的記憶體配置與有限重算方法,並列出吞吐量、正確率和功能限制,方便評估部署取捨。