SGLang 發布 v0.5.17 版本
v0.5.17
重點導讀
SGLang 正式發布 v0.5.17 版本,匯集 194 位貢獻者的 582 項 PR,全面升級推理與平行化效能: - 新模型日支援。
推薦理由
新版本帶來多項新模型支援與底層平行化最佳化,開發者可參考其升級日誌評估效能提升與架構調整。
信源出處github.com
v0.5.17
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: SGLang Releases (github.com)
開啟原文