跳到正文

NVIDIA 輝達

輝達的 AI 晶片與生態動態:GPU 新品、CUDA 生態、機器人平臺與 AI 算力市場的風向。

最新精選

第 321–340 條 · 共 349 條
10月9日週五
  1. LMSYS Org Blog82

    SGLang 和 Miles 如何在 NVIDIA Vera Rubin 上加速模型推論與訓練

    新一代 GPU 換了硬體,原本的模型服務和訓練程式也得重新調整,才能把運算資源用得更好。SGLang 團隊在 NVIDIA Vera Rubin 上測試推論與訓練:他們調整注意力、專家模型和資料傳送等程式,讓 Kimi K3 在特定設定下跑得更快;例如,合併多個小步驟後,每次生成少了 276 次程式啟動,整體速度提升 5.9%。Miles 也能在這套硬體上進行強化學習訓練,包含讓 AI 助理在沙盒環境中解題。這些是初步測試,團隊接下來會擴大規模並繼續改善效能。

    推薦理由:這篇實測拆解 Vera Rubin 上的推論與訓練調整,並列出各項改動帶來的速度差異,可看出硬體資源如何影響 SGLang 的最佳化方向。

10月8日週四
10月7日週三
  1. vLLM Official Blog86

    DeepSeek‑V4.1‑Flash 在 vLLM 上自發布日起實現 5 倍 Agentic 推理吞吐量

    DeepSeek‑V4.1‑Flash 與 vLLM 結合後,三週內在 AgentX benchmark 上達到 5.3 倍 的吞吐量提升,低併發下 1.9 倍速度。

    推薦理由:本文說明結合 DeepSeek‑V4.1‑Flash 與 vLLM 的 SWA bounded replay、CUDA graphs 等最佳化技巧,並展示實際 TTFT 減少 30–40% 的效果,幫助讀者提升推理效能。

10月4日週日
9月21日週一
  1. vLLM Official Blog78

    vLLM 上 Qwen3.8‑2.4T 的 PD 服務最佳化

    vLLM 在 GB300 NVL72 叢集上針對 Qwen3.8‑2.4T 進行 PD 服務,實現每 GPU 5,000 個總 token 吞吐量以及每使用者 180 個生成 token 的低延遲表現。

    推薦理由:本篇詳盡說明如何在 vLLM 上針對 Qwen3.8-2.4T 進行 PD 服務調優,並提供可執行的 srt-slurm 配方,讓讀者能直接套用於其他模型。

9月18日週五
9月16日週三
  1. NVIDIA Blog72

    NVIDIA 釋出 Vera Rubin 架構與 DSX 平臺,展示 AI 工廠能效與吞吐量提升

    NVIDIA 在 AI Infra Summit 上釋出了 Vera Rubin 架構與 DSX 平臺,其中 Vera Rubin NVL72 系統在 MLPerf Inference v6.1 預覽測試中展現出顯著的吞吐量優勢。多項生態合作與基準測試顯示,新平臺通過電源最佳化和軟體協同,大幅提升了每瓦 tokens 產出與 agentic ワークロード的執行效率。

    推薦理由:原文公佈了 Vera Rubin 架構在多個基準測試中的效能表現,讀者可以據此評估新一代 AI 基礎設施在能效和吞吐量上的提升幅度。

  2. LMSYS Org Blog76

    SGLang、Qwen 和 NVIDIA 團隊評測 NVFP4 KV cache,提升長上下文推論速度

    對話越長,模型要保留的過往內容就越多,GPU 記憶體也更容易不夠用。SGLang、Qwen 和 NVIDIA 團隊把 KV cache 改用 NVFP4 儲存,讓每 16 個值連同區塊縮放資料約只佔 FP8 的 56%。在 Qwen3.8-27B 的測試中,長上下文解碼速度有所提升,但部分準確度測項略低;在 AgentX 高並行測試裡,NVFP4 的吞吐量也持續增加,而 FP8 表現下滑。這項支援仍屬實驗性,結果會隨模型和工作情境而變,部署前仍要按任務檢查準確度。

    推薦理由:NVFP4 把 KV cache 壓到約 FP8 的 56% 儲存量;文中比較了準確度、長上下文解碼速度與 AgentX 負載,呈現省記憶體和回答品質之間的取捨。

9月13日週日
8月27日週四
  1. LMSYS Org Blog74

    SGLang Diffusion 如何加速 MiniMax-H3 影片生成,最快達 6.24 倍

    生成高畫質影片要反覆計算很多次,想加快速度,常得在畫面相似度上有所取捨。SGLang Diffusion 團隊在 8 張 NVIDIA H200 顯示卡上測試 MiniMax-H3,並和 Diffusers 比較;在不近似計算的設定下,速度快約 1.85 到 1.95 倍。加入重用前面計算結果的 Cache-DiT,以及略過部分注意力運算的 SubBlock 後,最快達 6.24 倍,但部分 T2VA 影片的 SSIM 降到 0.76 至 0.78。若更重視畫質,單用 Cache-DiT 可達 2.99 倍,SSIM 為 0.90 至 0.92。測試固定提示詞、種子和輸出設定,結果顯示加速幅度會隨影片型別和設定改變。

    推薦理由:這組實測在固定影片生成條件下比較速度與畫質,呈現不同加速設定的取捨,方便估算可接受的畫質變化。

8月25日週二
  1. Epoch AI Gradient Updates72

    美國 GDP 統計中 Nvidia 的巨大缺口

    **美國 AI 投資每年約 $400 億美元,卻因統計缺口被低估 0.3 個百分點 GDP 成長;若 Nvidia 持續增長,缺口可能在 2028 年擴大至 2 個百分點。

    推薦理由:揭示 AI 投資對美國 GDP 影響被低估的真相,幫助政策制定者更準確評估產業貢獻,並指出未來數年可能達到兩個百分點的增長缺口。

8月23日週日
  1. Recode China AI85

    Unitree 爆款上市、Nvidia 晶片獲北京綠燈與大廠 AI 投注

    Unitree 在上海科創板上市首日股價暴漲 629%,市值逼近 $66 B,但隨後兩個交易日即跌落近 $10 B。 - Unitree IPO:創造中國機器人市值新高,創辦人王興興淨值飆升約 $18 B。

    推薦理由:Unitree IPO 亮相證明中國機器人產業已成百億市值新星,Nvidia 晶片出口政策變動則揭示中美技術競賽新動態。

8月17日週一
8月11日週二
  1. LMSYS Org Blog74

    NVIDIA 推出 Nemotron 3.5 Lightning,SGLang 同步支援

    要讓 AI 助理長時間處理大量工作,模型得兼顧速度、準確度和部署方式。NVIDIA 推出 Nemotron 3.5 Lightning,並由 SGLang 在 Day 0 提供支援;這個模型共有 30B 引數,每次運算啟用 3B,支援最多 1 million tokens 的上下文視窗,也能針對特定工作流程再訓練。它提供 MTP、DFlash 和 DSpark 三種推測解碼方式,先猜後驗證多個 token 來加快生成;原文稱,在相近準確度下,部分 AI 助理任務可快最多 30%。開發者也能控制每個步驟是否進行推理,依工作難度調整回應方式。

    推薦理由:Nemotron 3.5 Lightning 把模型蒸餾、推測解碼與 SGLang 支援放在同一篇說明,能看出部署時如何取捨生成速度與工作需求。

8月10日週一
  1. vLLM Official Blog81

    vLLM 宣佈首發支援 NVIDIA Nemotron 3.5 Lightning 模型

    vLLM 官方部落格宣佈推出對 NVIDIA Nemotron 3.5 Lightning 的 Day-0 支援,這是一款專為全天候AI 助理(Agent)設計的可自訂開源混合式 MoE 模型,並透過多種推論加速技術提升吞吐量。

    推薦理由:vLLM 宣佈首發支援 NVIDIA Nemotron 3.5 Lightning 模型,讀者可透過內文提供的配置指令與架構最佳化方案評估高吞吐量部署。

8月7日週五
  1. LMSYS Org Blog77

    Tencent Hunyuan 的 HPC-Ops 整合進 SGLang,加快 LLM 推論

    AI 模型在伺服器上回答問題時,注意力運算、專家選擇和資料搬動都可能拖慢速度。Tencent Hunyuan 團隊把 HPC-Ops 的三種運算元整合進 SGLang,分別調整長短請求混在一起時的注意力運算、保留專家選擇所需的計算精度,以及減少小型專家運算前後的資料搬動。在 8 張 H20 顯示卡上,Hy3-FP8 同時使用注意力與 MoE 運算元後,部分批次的每個輸出詞元延遲降低 15.1–48.8%;LongCat-Flash-Lite-FP8 使用 Router GEMM 時,輸入處理速度提升 5.5–6.1%。這些結果來自文中列出的特定模型與測試設定。

    推薦理由:HPC-Ops 三種運算元已整合進 SGLang,文中用 H20 與 H200 測試說明它們在不同模型和工作量下的速度變化。

7月29日週三
  1. Berkeley AI Research77

    從 CUDA 到 MLX:K-Search 如何將數十年 GPU 核心最佳化知識帶到 Apple Silicon

    K-Search 透過結合 CUDA 核心最佳化知識與 MLX 翻譯層,成功將 NVIDIA GPU 的高效實作自動轉換至 Apple Silicon,達到接近專家水平的效能。

    推薦理由:本研究展示如何將 CUDA 核心最佳化知識自動轉移至 Apple Silicon,為跨平臺 GPU 核心開發提供可落地方法。

  2. Together AI Official Blog73

    ThunderAgent:高達 2 倍速度的代理式推理,提升大規模合成資料生成效能

    ThunderAgent 是一套針對代理式推理的程式級排程系統,透過將每個代理工作流程抽象為可排程程式,解決 KV cache 抖動問題。\n- 效能提升:單節點吞吐率提升至 2.5 倍,平均延遲下降 10 倍;8 節點叢集加速 2.4 倍,近線性擴充套件。

    推薦理由:本文提出程式級排程策略,消除 KV 快取抖動,單節點吞吐提升 2.5 倍,8 節點叢集加速 2.4 倍,對大規模代理式資料生成具有實際價值。

6月30日週二
  1. Together AI Official Blog77

    Together AI 於 ICML 2026:全棧前沿研究

    Together AI 在 ICML 2026 展示了九篇跨層研究,從代理到 GPU 核心,涵蓋模型、演算法、系統與硬體最佳化。 - 代理層:DSGym 1,000+ 任務、10+ 領域;ThunderAgent 3.6× 推理吞吐量、3.9× RL 迭代速度提升。

    推薦理由:Nine ICML 2026 論文涵蓋從代理到 GPU 核心的全棧研究,讀者可洞悉跨層最佳化的實際效能與落地策略,並展示多層協同效益與實際部署案例。