SGLang v0.5.22 釋出多模型支援與效能提升
v0.5.22
重點導讀
SGLang v0.5.22 釋出,新增多模型支援、效能最佳化與跨平臺功能。
- 新模型:DeepSeek‑V4.1、Qwen3.8‑Flash‑Next、GLM‑5.3‑Flash、MiMo‑V2.6‑Pro、EmbeddingGemma 2、LLaDA2.2、HunyuanImage‑3.0‑Instruct 等。
推薦理由
本次更新大幅提升多平臺推理吞吐量並加入多模型支援,開發者可直接使用新功能加速多模態應用,並在多種硬體上獲得顯著效能提升。
信源出處github.com
v0.5.22
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: SGLang Releases (github.com)
開啟原文