跳到正文
SGLang Releases(github.com)· ch-wan·· 12 天前精選品質評分78

SGLang v0.5.22 釋出多模型支援與效能提升

v0.5.22

重點導讀

SGLang v0.5.22 釋出,新增多模型支援、效能最佳化與跨平臺功能。

  • 新模型:DeepSeek‑V4.1、Qwen3.8‑Flash‑Next、GLM‑5.3‑Flash、MiMo‑V2.6‑Pro、EmbeddingGemma 2、LLaDA2.2、HunyuanImage‑3.0‑Instruct 等。
推薦理由

本次更新大幅提升多平臺推理吞吐量並加入多模型支援,開發者可直接使用新功能加速多模態應用,並在多種硬體上獲得顯著效能提升。

信源出處github.com

v0.5.22

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: SGLang Releases (github.com)
開啟原文