SGLang v0.5.19 發布：帶來 Beam 搜尋、DeepEP v2 與全方位效能最佳化
v0.5.19
重點導讀
SGLang 正式發布 v0.5.19 版本，此次更新匯集來自 214 位貢獻者的 786 個 PR，全面提升大模型與擴散模型的推論效能、硬體相容性與快取機制。
推薦理由
原文詳細列出各項核心效能改進與硬體支援，開發者可據此評估升級至新版本對模型推論吞吐量與延遲的實質助益。
信源出處github.com
v0.5.19
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論，請前往原始網站。
來源： SGLang Releases (github.com)
開啟原文