輝達的 AI 晶片與生態動態：GPU 新品、CUDA 生態、機器人平臺與 AI 算力市場的風向。
NVIDIA 推出 Cosmos-H-Dreams，這是一個針對手術機器人的即時、動作條件生成式模擬器。該模型將 Cosmos-H-Surgical-Simulator 的能力蒸餾為因果學生模型，並通過 FlashDreams 庫在單張 NVIDIA RTX PRO 6000 GPU 上實現每秒約 160 幀的互動式執行，支援在閉環中進行策略評估和資料生成。
推薦理由：官方推出的即時動作條件生成模擬器展示了手術機器人的互動式環境，讀者可以據此瞭解世界模型在醫療機器人領域的即時推理與應用進展。
SGLang v0.5.16 釋出 DSpark 及 Inkling 多模態支援，並最佳化多項推理效能與模型管理。 - DSpark：自信度驅動的 speculative decoding，單位 5 accept length 在 DeepSeek‑V4‑Pro 上達 383.7 tok/s，TP8 on B300 5.0 tok/s。
推薦理由：此版本新增 DSpark 及 Inkling 支援，可提升推理效能與多模態擴充性，對開發者最佳化部署流程有實際幫助。
Fable 5 在 KernelBench‑Mega 上以 18.71 倍加速完成 GPU 核心生成，顯示 AI 系統在核心設計上的自動化潛力。 - GPU 核心速度：相較於 PyTorch 基準，Fable 取得 18.71 倍提升；Claude Opus 4.8 14.4 倍；GLM‑5.2 11.14 倍；GPT‑5.5 4.34 倍。
推薦理由：Fable 5 在 KernelBench‑Mega 上實現 18.71 倍加速，展示 AI 自動化寫 GPU 核心的潛力。
Together AI 在 ICML 2026 展示了九篇跨層研究，從代理到 GPU 核心，涵蓋模型、演算法、系統與硬體最佳化。 - 代理層：DSGym 1,000+ 任務、10+ 領域；ThunderAgent 3.6× 推理吞吐量、3.9× RL 迭代速度提升。
推薦理由：Nine ICML 2026 論文涵蓋從代理到 GPU 核心的全棧研究，讀者可洞悉跨層最佳化的實際效能與落地策略，並展示多層協同效益與實際部署案例。
ParallelKernelBench 是一個測試多 GPU 核心生成的基準，評估 GPT‑5.5、Gemini 3 Pro 等前沿模型的表現。 - 核心特性：87 個實際工作負載，涵蓋多種分散式並行策略。
推薦理由：此研究揭示前沿 LLM 在多 GPU 核心生成上的侷限，提供可量化的基準與改進方向，並展示首批成功案例。
Arm 架構正在重塑雲端 AI 基礎設施，透過高效能與節能優勢，幫助企業降低成本並提升可持續發展。 - Arm 架構在雲端 AI 服務中提供高效能與節能優勢。
推薦理由：Arm 架構在雲端 AI 服務中提供高效能與節能優勢，促進成本競爭力與可持續發展，同時支援多元工作負載的最佳化與彈性擴充套件。
強化學習：基礎設施瓶頸與 Modal Dojo 解決方案 - 核心問題：RL 後訓練需要三大獨立基礎設施，包含可擴充套件的訓練引擎、近光速推論引擎以及可並行執行的環境沙盒；多節點擴充套件時權重同步成瓶頸。
推薦理由：文章闡述 RL 基礎設施瓶頸與解決方案，並提供 Modal Dojo 開源庫，協助團隊快速擴充套件大模型訓練，並降低基礎設施成本與開發複雜度。
Together AI 透過 TensorRT 多型別引擎、CUDA Graph 以及共享記憶體等技術，打造出全球最快的語音辨識堆疊，能在 10 秒內完成約 20 小時的語音轉錄。
推薦理由：本文詳細說明 Together AI 如何透過 TensorRT、CUDA Graph 與共享記憶體等技術，將語音辨識模型的延遲降至毫秒級，對需要低延遲語音 AI 的工程師極具參考價值。
Modal 在其最新的技術部落格中說明，透過四項關鍵最佳化，將 GPU 推理伺服器的啟動時間從數千秒縮短至數十秒，實現真正無伺服器 GPU。 - 四項關鍵技術：雲端緩衝、內容定址檔案系統、CPU 記憶體檢點/恢復、GPU CUDA 記憶體檢點/恢復。
推薦理由：此篇詳細說明 Modal 如何透過四項關鍵最佳化，將 GPU 伺服器啟動時間從數千秒縮短至數十秒，對想打造高效、彈性 AI 推理平臺的工程師具有實際參考價值。
Together AI 於今日正式推出 NVIDIA Nemotron 3 Nano Omni 模型，並於同日即時提供開發者使用。 - 多模態推理：單一模型即可同時處理影像、影片、音訊與文字，支援 256K token 的共享上下文。
推薦理由：本篇說明 NVIDIA Nemotron 3 Nano Omni 在 Together AI 上，與 Agent 效能，對落地 Agent 的開發者具參考價值。
Mistral 與 NVIDIA 於 2026 年 3 月 16 日宣佈成為 NVIDIA Nemotron Coalition 創始成員，將共同推動前沿開放模型的研發。
推薦理由：Mistral 與 NVIDIA 合作推動開放前沿模型，為開發者提供可擴充套件、可自訂的基礎模型，促進 AI 生態快速成長。
Rubin CPX 是 Nvidia 針對推理 Prefill 階段設計的單晶片加速器，提供 20 PFLOPS FP4 計算與 2 TB/s 記憶體頻寬，搭配 128 GB GDDR7 以降低成本。
推薦理由：Rubin CPX 的低記憶體成本與高 FLOPS 讓推理成本大幅下降，讀者可評估對現有部署的影響與成本效益。
Mistral AI 於 2025 年 9 月 9 日宣佈完成 1.7B€ 的 Series C 融資，估值 11.7B€。 - 投資領投方：半導體裝置巨頭 ASML Holding NV，同時為主要投資者。
推薦理由：本輪 1.7B€ 投資加速 Mistral AI 與 ASML 的合作，為半導體及 AI 產業帶來更強研發資源與市場競爭力。
華為的 Ascend AI 加速器製造正在擴張，TSMC 的 Die Bank 供應支撐 2024‑2025 年量產，但 HBM 記憶體短缺成為主要瓶頸。 - Ascend 910B/910C 產量：2024 年 507k（大多為 910B），2025 年 805k（其中 653k 為 910C）。
推薦理由：文章深入剖析華為升級製造與 HBM 供應瓶頸，幫讀者評估中國 AI 計算自給自足的可行性與風險，並評估未來出口管制對全球 AI 生態的影響。
Amazon 正在面臨雲端危機，但預期透過與 Anthropic 的合作及多吉瓦特 Trainium 擴張帶來復甦。 - AWS 雖佔亞馬遜 60% 營利，但在 GPU/XPU 雲端市場落後於 Azure、Google。
推薦理由：文章闡述 AWS 與 Anthropic 合作推動 Trainium 擴張，說明硬體與軟體共設計如何影響 AI 產業競爭
HBM 正在重塑 AI 加速器的記憶壁，從 HBM4 的自訂晶片到未來 20 層堆疊，容量與頻寬持續突破。 - 容量與頻寬增長：Nvidia 2027 年 Rubin Ultra 目標 1 TB HBM，AMD、OpenAI 等亦追隨。
推薦理由：本文透析 HBM 4 及未來路線，說明 AI 加速器容量與頻寬瓶頸，對硬體研發與供應鏈策略具關鍵參考價值，為未來晶片設計與供應鏈風險評估提供實質指引。
Secure Minions 是一個開源研究專案，結合本地 Ollama 模型與雲端前沿模型，透過 NVIDIA Hopper H100 的安全模組實現端到端加密協作。
推薦理由：本研究展示了利用 NVIDIA Hopper H100 安全模組，實現本地 LLM 與雲端 LLM 的端到端加密協作，既降低雲端成本又保障隱私，延遲增幅不到 1%。
TSMC 在亞利桑那州獲得美國 CHIPS Act 65 億美元補貼，將加速其第三座晶圓廠的建設與 2nm 先進製程的商業化。 - 補貼總額：$6.6B 獎金 + 最高 $5B 貸款 + 投資稅額抵免，總計約 $28B 直接或間接支援。
推薦理由：美國 CHIPS Act 為 TSMC 在亞利桑那擴產提供高達 65 億美元的補貼，凸顯美臺半導體合作的重要性與國家安全考量，並顯示政府對關鍵技術自主供應的強力支援，此舉亦為美國半導體產業帶來新機會，並為臺灣企業開啟國際合作新視窗。