llama.cpp b12259 支援 Kimi K3.1 Vision
llama.cpp b12259 為 mtmd 加入 Kimi K3.1 Vision 支援,並修正 K2.5 與 K3.1 的前處理及 projector MLP 命名問題。
llama.cpp b12259 為 mtmd 加入 Kimi K3.1 Vision 支援,並修正 K2.5 與 K3.1 的前處理及 projector MLP 命名問題。
PyTorch 推出 ExecuTorch WebGPU 後,模型可透過 torch.export 匯出為 .pte 檔案,並在支援 WebGPU 的瀏覽器中使用 GPU 執行。
推薦理由:ExecuTorch WebGPU 將模型匯出與瀏覽器執行串成同一流程,並列出已支援的模型與裝置端微調能力,呈現其在地端部署的使用方式。
ElevenLabs 推出語音轉文字模型 Scribe v3 與 Scribe v3 Live,分別面向錄製音訊與即時音訊,並在其測試中降低轉錄錯誤率。
推薦理由:文章以相同資料集比較批次與即時轉錄模型,並拆解詞錯率、說話者辨識與即時辨識的差異,方便評估各自適用的場景。
Google於 2026 年 11 月 10 日宣佈,Google AI Edge Gallery 與相關開發工具加入裝置端語音辨識(ASR)和文字轉語音(TTS),可在離線情境下提供語音互動。
推薦理由:文章整理 Android 與跨平臺語音方案的模型、延遲及整合方式,方便開發者依裝置與部署需求比較選擇。
Google DeepMind 推出 Gemini Robotics 2.5,擴大機器人可學習的任務範圍,並提升執行速度、可靠度與安全性。 - 任務評估:模型在 200 多項任務中接受測試;相較先前基準,依任務型別成功率提高 30% 至 100%,完成速度快 20% 至 30%。
推薦理由:文章以 200 多項任務的評估與 Mercedes-Benz 生產線概念驗證,呈現模型在操作能力、作業可靠度及機器人安全上的進展。
Google 宣佈擴大與 Adobe 的合作,將 Adobe 創意與生產力工具整合至 Google 產品,並把 Google 的 AI 模型匯入 Adobe 應用程式。
推薦理由:合作把 Adobe 工具接入 Google 的搜尋、郵件、雲端硬碟與 Gemini,並讓企業在 Gemini Enterprise 使用設計與行銷代理程式,呈現跨應用整合方向。
Claude Fable 5.2 (Max) 在 Artificial Analysis 的 AA-3D 基準排名第一,這項基準評估 AI 模型建構互動式 3D 體驗的能力。
推薦理由:AA-3D 的 Elo 分數、信賴區間與同榜模型比較,呈現 Claude Fable 5.2 在互動式 3D 體驗生成上的排名差距。
Vercel Token Pass 新增 GLM 5.3 Flash,這款 Z.ai 原生多模態編碼模型具備 1M-token 上下文視窗。 訂閱方案:Pro 團隊每月支付 $30,可取得每月 $80 額度,服務透過 AI Gateway 運作。 接入方式:可在團隊 AI Gateway 儀錶板的 Token Pass 頁面新增模型,也可參閱 Token Pass 檔案;支援透過 fx、Pi、Cline、Command Code 等編碼代理程式使用,或以 AI SDK 自行建置。預設啟用 Zero Data Retention。
NVIDIA Nemotron 3.5 Super VL 現已可透過 Amazon SageMaker JumpStart 部署,支援影像、影片與文字輸入,並提供 NVFP4 和 BF16 兩種版本。
推薦理由:文章比較 NVFP4 與 BF16 在 JumpStart 的部署選項與推論資料,並說明量化版本在多項多模態基準上的表現差異。
Vercel AI Gateway 開放使用 Anthropic 的 Claude Fable 5.2,提供模型呼叫、用量追蹤與模型回退設定。 模型能力:Claude Fable 5.2 面向開放式技術工作,在程式開發、推理與視覺能力上優於先前的 Fable 模型;可無人看管地執行冗長且目標模糊的任務,也能協調較小型模型,或作為其他 Claude 模型的顧問。原文並稱其溝通更清楚、輸出速度更快。 推理設定:Effort 可設為 low 至 max,API 預設為 high。 資料保留與安全限制:模型啟用了資安與生物學安全分類器,使用時必須接受資料保留;Anthropic 不支援此模型的 Zero Data Retention。提示詞與回覆會保留 30 天,且不會用於訓練 Claude。若團隊已啟用 ZDR,AI Gateway 會回傳錯誤,不會轉送請求。 模型回退:若資安分類器拒絕請求,可在 providerOptions.gateway 加入 models 陣列,讓 AI Gateway 依序嘗試其他模型。範例設定會先回退至 Opus 5.5,再至 Sonnet 5.5;此設定適用於各種 AI Gateway API 格式。 使用方式與費用:可透過 AI SDK、Chat Completions、Responses、Anthropic Messages API,或連線 AI Gateway 的程式代理呼叫;模型名稱為 anthropic/claude-fable-5.2。在 Claude Code、Codex、Cursor 等工具中使用,需安裝最新版 Vercel CLI 並執行設定。AI Gateway 依照供應商定價,不加價,也不對推論收取平臺費用,包括 BYOK 請求。
推薦理由:Claude Fable 5.2 在 AI Gateway 的接入同時附帶資料保留與安全分類器限制,也提供模型回退設定,呈現實際使用時需考量的部署條件。
Vercel 發布 2026 年 11 月 AI Gateway Production Index,指出決策模型已佔 10 月全部請求的 26%,而新付費團隊首選 Anthropic 的數量近乎是 OpenAI 的兩倍。
推薦理由:Vercel 以匿名彙總流量呈現模型採用與更替速度,並列出各項統計口徑,便於理解企業團隊的實際使用變化。
BAIR 的教師、博士後研究員與學生將於 CoRL 2026 發表機器人學習研究,議程包括 Negar Mehr 教授的 Early Career Keynote,以及論文口頭報告、焦點演講與海報展示。
推薦理由:Anthropic 將 Claude Fable 5.2 與 Claude Mythos 5.2 定位於高難度技術挑戰,並指出編碼、推理與視覺能力有所改善。
Meta 的 Muse Ember 現已可透過 Vercel AI Gateway 使用,這款輕量推理模型面向 AI 助理執行流程中大量重複的工作,例如程式撰寫子任務、工具呼叫與檔案分析。 輸入與推理:支援文字、圖片與影片輸入,提供 1M-token 上下文視窗;推理強度可從 minimal 調整至 max。 串接方式:可透過 AI SDK、Chat Completions、Responses 與 Anthropic Messages API 呼叫,也能由連線 AI Gateway 的程式碼AI 助理使用。模型名稱為 meta/muse-ember。 費用與管理:AI Gateway 依照供應商定價,不加價,也不對推論收取平臺費用,包含 Bring Your Own Key(BYOK)請求;另提供用量與成本追蹤、自訂報表、Zero Data Retention 支援、API 金鑰預算、路由規則、重試與故障轉移設定。
Spines 正募資 6,400 萬美元,包括 2,900 萬美元股權融資與 3,500 萬美元債務融資,用於支援其面向業餘作者的數位出版服務。
Vercel Chat SDK AI 助理現在可透過 json-render 串流生成式介面,將模型輸出的 JSON 規格轉換成 Chat SDK 卡片,再由各平臺的 adapter 發布為原生格式。 元件與平臺格式:具型別的元件目錄涵蓋表格、圖表、按鈕等;Slack 使用 Block Kit,Teams 使用 Adaptive Cards,無須為不同訊息形狀分別維護工具。 串流更新:streamCard 在根元素有內容後發布卡片,並隨新元素串流更新訊息;預設最多每 500 ms 傳送一次編輯。串流結束後,訊息會顯示通過驗證的最終卡片。 規格驗證與平臺限制:toCard 會依元件結構描述檢查各元素屬性,無效規格會觸發 CardSpecError,並附上可讀的問題清單,可回傳給模型修正。平臺超出單則訊息容量的內容會由 adapter 降級處理;例如 Slack adapter 會將第二個表格轉成程式碼區塊,也可傳入限制來拒絕這類規格。 開始使用:可參閱檔案或試用 playground。
Moonshot AI 的 Kimi K3.1 Pro(Highspeed)已在 Amazon Bedrock 上推出,可用於編碼、檔案處理等 AI 助理應用,並提供較高的每秒輸出 Token 數(OTPS),加快結果生成。
ElevenLabs Ads Engine 新增人工審核流程,由在地化專家與創意專家檢查廣告變體及在地化版本,協助團隊在不同市場擴充套件素材,同時維持品牌一致性。
ElevenAgents SDK 讓 Unity 開發者可在遊戲中即時為 NPC 加入語音互動,玩家可用麥克風對話,音訊由 SDK 直接播放。 - 跨平臺支援:支援 Editor、桌面、WebGL、iOS、Android、XR,並自動選擇適合的傳輸方式。
VeRL-Omni v0.3.0 擴充套件多模態強化學習的訓練配方與執行方式,將 V1 trainer 設為預設,並加入更多非同步 rollout、模型整合與硬體支援。
推薦理由:MiniCPM-o 4.5 的對照實驗顯示,非同步訓練的每提示詞耗時優勢會隨回應長度改變,可供依工作負載選擇執行配置時參考。
NVIDIA 為 Cosmos 3 模型家族新增四款開放權重檢查點,用於互動式世界模擬與多感測器、多視角駕駛場景生成。
推薦理由:四種檢查點涵蓋駕駛場景生成、相機與 LiDAR 串流、模擬器畫面轉換及雙臂機器人動作預測,並交代各自控制方式與訓練流程。
Amazon Marketplace 利用 Amazon SageMaker AI 建立一套多模型融合系統,從整體頁面快照評估 A+ 內容品質。
Google DeepMind 推出 Gemini Omni 1.2 Flash,影片生成最長延長至 15 秒,並加入多輪對話編輯與更強的參考素材遵循能力。
推薦理由:Gemini Omni 1.2 Flash 將原生影片長度提高至 15 秒,並支援逐輪編輯與參考素材控制,適合評估大量影片生成工作流程的時間與成本變化。
AI-PPG-ACC-HTN 是 Google 研發的一套可於消費者智慧手錶上偵測高血壓的多模態 AI 系統,透過 PPG 與 ACC 兩種感測器,無需袖帶校正即可達到與傳統血壓測量相近的準確度。
推薦理由:此研究展示了利用手錶感測器偵測高血壓的可行性,並在臨床測試中達到與傳統袖帶相近的準確度,為全球健康監測提供新方法。
esp32-eye 是一套開源飲水監測系統,使用 MiniCPM-V 4.7、兩塊 ESP32-S3 與 MacBook,辨識個別貓咪並記錄每日飲水事件。
Vercel AI Gateway 現在可透過更多支援零資料保留(ZDR)的供應商,呼叫 Kimi K3.1 Pro 與高速版本 Kimi K3.1 Pro Highspeed。 模型特性:兩款模型都支援 1M-token 上下文視窗與圖片輸入;Kimi K3.1 Pro 在程式開發、3D 建模與金融分析方面有所改進,並可處理從小幅修正到完整專案的長時間 Agent 工作。Highspeed 適合重視回應速度的互動工作,例如程式開發 Agent。 ZDR 路由:此前只有 Moonshot AI 提供這兩款模型。啟用單次請求的 zeroDataRetention 選項,或在 AI Gateway 儀錶板設定中為團隊所有請求啟用 ZDR 後,系統只會路由至簽有 ZDR 協議的供應商;若沒有可用供應商,請求會失敗,不會改送至未簽約的供應商。 呼叫方式:可透過 AI SDK、Chat Completions、Responses、Anthropic Messages API,或連線 AI Gateway 的程式開發 Agent 呼叫。模型名稱為 moonshotai/kimi-k3.1-pro;Highspeed 使用 moonshotai/kimi-k3.1-pro-highspeed。也可安裝最新版 Vercel CLI,在 Claude Code、Codex、Cursor 等 Agent 中選擇模型。 費用:AI Gateway 依供應商定價,不加價;推論不收平臺費,包含 Bring Your Own Key(BYOK)請求。
llama.cpp v0.9.0 正式發布,新增 FP8 E4M3 量化、flash_attn_ext_rows 等多項功能,並擴充多模態與音訊支援。 - 量化:加入 OCP FP8 E4M3 tensor type,提供轉換輔助,提升量化模型效能。
推薦理由:此版本新增 FP8 E4M3 量化與多序列 KV 快取最佳化,並支援多種新架構與音訊功能,能顯著提升多模態推理效能與跨平臺部署彈性,為開發者帶來更高效能與更低延遲。