SGLang v0.5.15 發布，提升 GLM‑5.2 推理效能與多模型支援
v0.5.15
重點導讀
- SGLang v0.5.15 釋出，將 GLM‑5.2 NVFP4 在 Blackwell 上的吞吐量提升至 500+ tok/s/使用者。 - 效能提升：透過 CUDA‑graphable DSA、IndexShare MTP、TopK V2 等最佳化，整體 TPS 增加 11%。
推薦理由
本次更新提升 GLM‑5.2 在 Blackwell 上的吞吐量，並加入多模型支援，對需高效推理的工程師提供可直接落地的最佳化方案。
信源出處github.com
v0.5.15
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論，請前往原始網站。
來源： SGLang Releases (github.com)
開啟原文