Axolotl v0.16.0 發布:支援非同步 GRPO 與混合專家模型融合核心
v0.16.0
重點導讀
開源大模型微調框架 Axolotl 正式發布 v0.16.0 版本,帶來多項效能最佳化與新模型支援。
- 非同步 GRPO:支援透過 vLLM 整合進行非同步群組相對政策最佳化(GRPO),訓練步驟時間最高加快 58%。
推薦理由
原文詳細列出非同步強化學習與混合專家模型的效能最佳化細節,讀者可據此評估是否升級該開源微調框架以提升訓練效率。
信源出處github.com
v0.16.0
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Axolotl Releases (github.com)
開啟原文