跳到正文
LMSYS Org Blog(lmsys.org)· SGLang, NVIDIA and AMD teams·· 2026-10-18精選品質評分84

SGLang 推出低延遲模式,讓 NVIDIA 與 AMD GPU 更快生成 token

SGLang Low-Latency Mode: Kernels and Runtime

重點導讀

低延遲推論常需要為不同模型和 GPU 寫專用程式碼,難維護,也會拖慢回應。

  • SGLang 推出低延遲模式,透過外掛接上 NVIDIA 與 AMD 的專用核心,並讓一般執行流程繼續處理外掛不支援的情況。在 AgentX 測試中,四張 NVIDIA GB300 GPU 的單一連線速度從每秒 671.2 個 token 提升到 928.4 個。
  • 四張 AMD MI355X GPU 在四個連線時,則從 331.6 提升到 516.0。兩組結果都是和相同硬體上的 SGLang 基準比較。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

文章比較 NVIDIA 與 AMD GPU 上的實測結果,也說明外掛如何讓專用核心接上 SGLang,呈現低延遲最佳化的效能與維護取捨。

信源出處lmsys.org

SGLang Low-Latency Mode: Kernels and Runtime

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: LMSYS Org Blog (lmsys.org)
開啟原文

讀者討論

理性交流 · 即時討論