Tailscale 如何利用 AI Gateway 建立客戶面向的模型路由器
Tailscale 利用 Vercel AI Gateway 快速搭建了客戶面向的模型路由器,並提供零資料保留與低延遲的安全執行環境。 - 核心功能:透過單一 API 管理數百個模型,並自動回傳成本與使用量。
AI 產品與應用的功能上新、改版與商業化動態——誰家的產品變強了、變貴了、能用了。
Tailscale 利用 Vercel AI Gateway 快速搭建了客戶面向的模型路由器,並提供零資料保留與低延遲的安全執行環境。 - 核心功能:透過單一 API 管理數百個模型,並自動回傳成本與使用量。
Together Fine‑Tuning 於 2026 年 9 月 11 日推出新版,支援更多開放權重模型、即時實驗追蹤、專家 LoRA 及早停功能,並降價 30–70%。
推薦理由:此更新提供更完整的實驗追蹤與成本最佳化,讓使用者能即時調整訓練策略,並以更低成本部署多模型,同時支援專家 LoRA 及早停功能。
GitHub Copilot app 推出了內建的 diff、終端和瀏覽器面板,讓使用者無需切換應用即可審查 AI 生成的程式碼、執行命令並測試介面。通過這些並排的內建面板,使用者可以閉環完成審查、執行和預覽,安全地合併程式碼並建立 pull request。
推薦理由:原文介紹了應用內嵌面板的具體功能和協作流程,讀者可以據此瞭解如何在一個介面內完成 AI 程式碼審查和測試。
Microsoft 正式發布 ONNX Runtime v1.30.0,大幅擴充套件生成式 AI 推理能力、提升 CPU 與 GPU 效能,並新增 Go 語言繫結與強化執行期可靠性。
推薦理由:原文詳列各執行提供者與語言繫結的效能最佳化與新功能,讀者可據此評估升級版本的效能提升與相容性變更。
OpenAI 在 ChatGPT Work 中推出 Data agent,支援連線公司資料、用自然語言查詢並生成互動式儀表盤。該功能讓使用者無需編寫程式碼即可獲取洞察,提升資料視覺化效率。
推薦理由:官方釋出的 Data agent 讓企業能用自然語言直接查詢資料並生成互動式儀表盤,降低資料分析門檻,提升決策效率,並支援多維度資料視覺化。
Axolotl v0.19.0 釋出宣告式模型支援與多新模型家族,提供更簡易的微調流程並提升推理效能。 - 宣告式模型支援:模型只需宣告差異,省去多處配置。
推薦理由:Axolotl v0.19.0 以宣告式模型支援與多種新模型家族,降低微調門檻並提升推理速度,對開發者即時整合多模型工作流程具有實務價值。
Replit 推出與 Databricks 的整合,並新增原生 Lakebase 支援,讓企業能快速從構思到上線全棧應用,同時保留 Databricks 的治理與安全功能。
推薦理由:Replit 的 Databricks 整合與原生 Lakebase 支援,為企業提供從構思到上線的全棧應用開發與安全治理,縮短部署時間並提升資料治理合規。
OpenAI 推出 ChatGPT for Financial Services,結合內建金融資料與 GPT-6 Astra 模型,用於研究、建模和客戶交付材料的準備。
推薦理由:原文給出了 ChatGPT for Financial Services 的內建資料與模型配置,讀者可以據此判斷它會怎樣改變金融領域的日常工作流。
OpenAI 宣佈與 GSA 合作,為符合條件的聯邦、州、地方和部族政府提供零許可費、使用費五折優惠以及擴大的網路安全支援。
推薦理由:原文公佈了面向美國各級政府的費用減免和網路安全支援方案,讀者可以據此瞭解 AI 服務在公共部門的落地政策。
OpenRouter 正式推出 Presets 功能,支援將模型選擇、系統提示詞、提供者路由與取樣引數集中儲存於儀錶板中,並透過 @preset/slug 在 API 請求中直接呼叫。
推薦理由:原文詳細介紹預設功能的配置方式與實際應用場景,讀者可透過集中管理模型與提示詞減少重複編碼。
OpenRouter 正式推出複合式推理系統 Fusion,能將單一提示詞同時傳送給多個模型進行平行審議,並透過裁判模型與呼叫模型綜合產出最終解答。
推薦理由:原文詳細說明 OpenRouter Fusion 的運作機制、效能表現與適用場景,讀者可據此評估是否將多模型審議匯入複雜研究工作流程。
Together AI 推出可預約計算功能,讓 GPU 叢集以 50% 之低成本執行可中斷工作。 - 計費方式:子小時計費,單價為按需費用的 50%。
推薦理由:預算敏感型工作負載可利用此功能以 50% 成本節省,並保持與標準節點相同的 GPU 基礎設施,支援 Ray Train 與 PyTorch Lightning。
OpenAI 推出了 Agents API 託管服務,支援基於 Codex 框架進行任務編排、長會話和工具呼叫,幫助開發者構建和部署雲端智慧體。
推薦理由:官方推出的託管服務直接面向雲端智慧體開發需求,開發者可藉此獲得編排與長會話支援。
Graidio 團隊釋出了 Workflow1111,這是一個基於 Gradio Workflow 重構 AUTOMATIC1111 功能集的單工作流畫布,包含由 73 個節點和 11 條媒體管線組成的圖表。
推薦理由:文章展示瞭如何用視覺化節點把多個媒體管線組合在一起,並自動生成介面和協議,為開發者搭建複雜多模態應用提供了新方案。
ThunderKittens 已在 NVIDIA Vera Rubin NVL72 上完成最佳化,能以 NVFP4 與 FP8 格式執行 GEMM。 - 新 ISA 功能:Vera Rubin 支援 64‑byte K 步、576 欄張量記憶體、328 KiB 共享記憶體,並新增 B‑side collector 與 early A release 指令。
推薦理由:本篇說明如何將 ThunderKittens 針對 NVIDIA Vera Rubin NVL72 進行最佳化,展示新 ISA 功能對 GEMM 效能提升的具體做法,對 GPU kernel 開發者具有實務參考價值。
Supabase 透過 Gemini Enterprise 內建聯結器,使用者可在 Gemini 內以自然語言查詢 Supabase 資料,無需離開工作環境。
推薦理由:Supabase 透過 Gemini Enterprise 內建聯結器,團隊可即時以自然語言查詢資料,無需額外設定,顯著提升跨工具協作效率。
OpenRouter 推出美國與歐洲區域路由,確保 AI 工作負載在地處理並符合資料主權需求。 - 區域端點:請使用 https://us.openrouter.ai/api/v1 或 https://eu.openrouter.ai/api/v1,請求在該區域內解密並處理,僅允許該區域內的供應商服務。
推薦理由:此功能可確保 AI 工作負載在美國或歐洲區域內完成,符合資料主權需求,並支援企業級計畫,提供多種模型選項。
Google DeepMind 推出了 AlphaGenome Atlas 平臺,包含人類基因組中 90 億種單核苷酸變異的預測效應,並同步釋出了 AlphaGenome Variant Impact 評分。該平臺提供網站埠、API 以及 Google Antigravity 中的 skill,旨在幫助學術研究人員理解基因變異對分子生物學的影響。
推薦理由:該平臺預先計算了人類基因組中所有可能單核苷酸變異的分子效應預測併發布了配套評分指標,為研究人員快速評估基因變異影響提供了新資源。
ChatGPT Images 2.5 讓使用者將想法、草圖和參考照片轉化為更個性化、精細的影像。該功能支援多種風格和細節調整,顯著提升創作效率和視覺表達質量,並可直接嵌入聊天介面進行即時反饋,幫助設計師快速迭代並獲得更精準的視覺效果。
推薦理由:ChatGPT Images 2.5 讓使用者能把草圖和參考照片轉化為更個性化、精細的影像,支援多種風格和細節調整,顯著提升創作效率和視覺表達質量,並可直接嵌入聊天介面進行即時反饋,幫助設計師快速迭代並獲得更精準的視覺效果。
OpenRouter 於 2026 年 9 月 8 日推出 Shell 伺服器工具與 Files API,允許任意模型在雲端 Linux 容器中執行指令並進行檔案上傳下載。
推薦理由:新增 Shell 伺服器工具與 Files API,讓任意模型可執行終端指令、管理檔案,成本低至 $0.0001/秒,便於構建跨模型的 agentic 流程。