跳到正文

NVIDIA 輝達

輝達的 AI 晶片與生態動態:GPU 新品、CUDA 生態、機器人平臺與 AI 算力市場的風向。

最新精選

第 301–320 條 · 共 349 條
10月21日週三
  1. NVIDIA Blog75

    NVIDIA Confidential Computing 擴張,讓前沿模型建構者能安全擴充套件至全球基礎設施

    NVIDIA 推出 Confidential Bare Metal,允許前沿模型建構者在第三方裸金屬環境中安全擴充套件工作負載。 - 部署選項:提供 Confidential Bare Metal、Confidential Containers、Confidential Virtual Machines 三種模式,滿足不同信任與運營需求。

    推薦理由:NVIDIA 新增 Confidential Bare Metal 讓模型建構者可在第三方裸金屬環境安全擴充套件,提供硬體級隔離與加密保護,對全球 AI 訓練與推論架構具有重要影響。

  2. NVIDIA Blog79

    NVIDIA Cloud Partners 擴充套件歐洲雲端基礎設施 — 主權、開放與安全 AI 代理

    NVIDIA Cloud Partners 在歐洲擴大雲端基礎設施,並推出安全代理架構與開放模型服務。 - Nscale 利用 NVIDIA DSX 平臺,測試中提升 37% GPU 效率與 50% 推理吞吐量。

    推薦理由:文章說明 NVIDIA 及合作夥伴如何在歐洲擴大 AI 雲端基礎設施,並提供安全邊界與開放模型,對於想在歐洲部署 AI 代理的開發者與企業具有實務參考價值。

  3. NVIDIA Blog76

    Google Cloud 與 NVIDIA 宣佈 Vera Rubin 基礎設施正式上線

    導語:Google Cloud 與 NVIDIA 推出 Vera Rubin 基礎設施,將於下個月正式開放,為雲端客戶提供數十萬 GPU 的高效能訓練與強化學習平臺。

    推薦理由:Google Cloud 與 NVIDIA 推出 Vera Rubin 基礎設施,提供數十萬 GPU 與高頻寬連線,支援大規模強化學習與機器人代理開發,並提供機密計算與能源效率最佳化,滿足企業對隱私與效能的雙重需求。

  4. NVIDIA Blog75

    GTC Berlin 2026:NVIDIA CEO 黃仁勳關鍵演講現場即時更新

    NVIDIA CEO 黃仁勳在GTC Berlin 2026關鍵演講中宣佈,歐洲已投資近100億美元,並推出DSX POD等全新AI工廠解決方案。 - DSX POD:模組化容器化AI工廠,部署時間從六個月縮短至14天。

    推薦理由:NVIDIA在歐洲投資近100億美元,並推出DSX POD等全新AI工廠解決方案,對歐洲AI產業發展具重要指標性影響。

  5. LMSYS Org Blog82

    SGLang 如何在服務不中斷時,替 MoE 模型加入 GPU

    大型 MoE 模型流量增加時,常見做法是多開一份完整服務,或停機重啟來增加 GPU;兩種方式都會帶來額外成本或等待時間。這篇文章說明 SGLang 如何讓運作中的服務逐步加入 GPU,例如把 20 張 GPU 擴到 24 張,準備新 GPU 時原本的服務仍可工作。擴充前要先設定可達到的 GPU 上限,預留的通訊記憶體越多,留給 KV cache 的空間就越少。文中在 8 張 H100 上比較,擴充後首次完成請求的時間比重啟快 5.3 到 8.2 倍;轉換期間則會暫停傳送 token。

    推薦理由:文章說明 SGLang 如何在服務持續運作時分批加入 GPU,並比較轉換時間與輸出速度,可用來評估大型 MoE 部署的擴充方式。

10月19日週一
  1. SGLang Releases78

    SGLang v0.5.22 釋出多模型支援與效能提升

    SGLang v0.5.22 釋出,新增多模型支援、效能最佳化與跨平臺功能。 - 新模型:DeepSeek‑V4.1、Qwen3.8‑Flash‑Next、GLM‑5.3‑Flash、MiMo‑V2.6‑Pro、EmbeddingGemma 2、LLaDA2.2、HunyuanImage‑3.0‑Instruct 等。

    推薦理由:本次更新大幅提升多平臺推理吞吐量並加入多模型支援,開發者可直接使用新功能加速多模態應用,並在多種硬體上獲得顯著效能提升。

10月18日週日
  1. NVIDIA Blog72

    RTX Spark 為新款 Windows PC 引燃全球慶典

    RTX Spark 為新款 Windows PC 引燃全球慶典。 - GPU/CPU:搭載 NVIDIA Blackwell RTX GPU 與 Grace CPU,提供高達 1 petaflop AI 計算。

    推薦理由:RTX Spark 搭載 Blackwell GPU 與 Grace CPU,提供 1 petaflop AI 計算與 128GB 統一記憶體,適合本地 AI 與創作,對於需要高效能移動工作站的使用者具有重要參考價值。

  2. LMSYS Org Blog84

    SGLang 推出低延遲模式,讓 NVIDIA 與 AMD GPU 更快生成 token

    低延遲推論常需要為不同模型和 GPU 寫專用程式碼,難維護,也會拖慢回應。SGLang 推出低延遲模式,透過外掛接上 NVIDIA 與 AMD 的專用核心,並讓一般執行流程繼續處理外掛不支援的情況。在 AgentX 測試中,四張 NVIDIA GB300 GPU 的單一連線速度從每秒 671.2 個 token 提升到 928.4 個;四張 AMD MI355X GPU 在四個連線時,則從 331.6 提升到 516.0。兩組結果都是和相同硬體上的 SGLang 基準比較。

    推薦理由:文章比較 NVIDIA 與 AMD GPU 上的實測結果,也說明外掛如何讓專用核心接上 SGLang,呈現低延遲最佳化的效能與維護取捨。

10月16日週五
  1. Hugging Face Blog74

    2.8 兆 token 印度語言預訓練與開放資料生成管線

    本研究釋出一份 2.8 兆 token 的 Indic 語料庫與可重複使用的 GPU 加速資料生成管線,並說明其在 Nemotron 3.5 Super VL 上的效能提升。

    推薦理由:提供了可複製的 2.8 兆 token 語料與 GPU 加速生成流程,可幫助研究者構建更強的印度語言模型,並展示其在多項 Indic 評測中的顯著提升。

  2. vLLM Official Blog72

    vLLM 中 Kimi K3 高效最佳化:快速且負責任的推進

    vLLM 團隊利用代理協助開發,為 NVIDIA GB300 上的 Kimi K3 建構統一的 CuTe DSL 解碼路徑,實現 842 tokens/s 的解碼速率(比原版快 1.73 倍)並提升 P90 互動性至 403.2 tokens/s。

    推薦理由:本文說明如何利用代理開發加速 Kimi K3,並提供可複製的驗證流程,對想提升 GPU 端推理效能的工程師具有實務參考價值。

10月15日週四
  1. NVIDIA Blog84

    NVIDIA 擴充套件 Nemotron 系列,推出最高效 Super VL 與 Bolt 模型,覆蓋從資料中心到桌面

    NVIDIA 今日發布 Nemotron 3.5 Super VL 120B 引數模型,並推出兩款邊緣模型:Bolt 74B-A9B 24GB 與 Bolt E4B 4GB,覆蓋從大型資料中心到邊緣裝置的所有 agent 部署需求。

    推薦理由:NVIDIA 推出開放式 120B 模型,兼具速度與精準,適合企業與邊緣部署,並提供多種量化選項以降低記憶體需求,並支援在 RTX、Jetson 與 DGX Spark 等硬體上即時部署。

  2. NVIDIA Blog78

    NVIDIA 擴大歐洲科學社群先進技術存取:開放學習資源、合作與計算平臺

    NVIDIA 在歐洲科學社群推出一系列開放學習資源、合作計畫與計算平臺,為研究人員提供先進工具與支援。 - 開放資源:已發布 250+ 開源模型、資料集及 1,400+ 軟體專案,涵蓋 LLM、醫療、機器人、氣候科學等領域。

    推薦理由:NVIDIA的開放資源與計算平臺,為歐洲科研社群提供實用工具與培訓,促進跨領域創新,並加速新技術落地。

10月14日週三
  1. NVIDIA Blog77

    NVIDIA 宣佈新投資英國創業生態系統

    NVIDIA 宣佈在英國投資新創,並承諾 5 年 2.5 億美元算力,以推動 AI 安全與創新。 - 計畫內容:5 年 $250M 算力承諾,聚焦代理安全與研究。

    推薦理由:NVIDIA 以 2.5 億美元計畫投資英國 AI 生態,為創新與安全研究提供算力與資源,讀者可瞭解企業如何與新創合作推動產業升級。

10月13日週二
10月12日週一
  1. NVIDIA Blog79

    OCP 全球峰會:在生態系統採用之際,NVIDIA 開放 Vera Rubin 架構協助全球擴充套件 AI 工廠

    NVIDIA 在 OCP 全球峰會上公佈了開放式 Vera Rubin 架構與多項開源標準,為 AI 工廠提供可擴充、節能的基礎設計。 - Vera Rubin MGX 1.2 版擴充了盲接液冷、5,000A 電源槽與 19 吋裝置支援,支援最高 250kW 的機架部署。

    推薦理由:NVIDIA 透過開放 Vera Rubin 架構與標準,為 AI 工廠提供可擴充、節能的基礎,讀者可瞭解如何整合此開源設計於自家部署。

  2. vLLM Official Blog74

    vLLM 推出雙向 KV 傳輸以改善多輪代理工作負載的 TTFT

    vLLM 官方部落格介紹了一項雙向 KV 快取傳輸機制,旨在解決多輪對話與代理工作負載中,預填(prefill)節點因重複計算上下文而導致首字延遲(TTFT)升高的問題。

    推薦理由:文章詳細說明如何在 vLLM 中配置雙向 KV 傳輸以降低多輪對話延遲,讀者可藉此瞭解如何減少重複的 prefill 計算並最佳化推理效能。

10月9日週五
  1. NVIDIA Blog72

    NVIDIA 展示 AI 助理如何把想法做成 Omniverse 模擬

    把模擬想法做成能測試的場景,常得準備 3D 物件、設定物理效果,再反覆檢查結果。NVIDIA 整理多個開發案例,示範如何用自然語言引導 AI 助理搭配 Omniverse 工具建立模擬,有人測試機器人搬罐子,有人檢查瓦斯渦輪機在不同條件下的反應,也有人把工廠掃描資料整理成可修改的建築模型。開發者仍要檢視模擬結果並修正問題;這些案例展示了模擬如何協助團隊先在電腦裡試做,再評估設計或操作方式。

    推薦理由:這篇整理多個實作案例,呈現開發者如何用 AI 助理組裝模擬場景、測試機器人與工業流程,並依模擬結果調整設計。