SGLang v0.5.23 發布:DeepSeek‑V4.1 效能提升與多平臺支援
v0.5.23
重點導讀
SGLang v0.5.23 發布,帶來多項效能提升與平臺擴充。
- DeepSeek‑V4.1 預填吞吐量提升 1.5 倍,首 token 延遲下降 28%。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
SGLang v0.5.23 讓 DeepSeek‑V4.1 預填吞吐量提升 1.5 倍、首 token 延遲下降 28%,GPU、TPU、CPU 相容多模型,快速部署。
信源出處github.com
v0.5.23
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: SGLang Releases (github.com)
開啟原文