llama.cpp 修正 Qwen4exp 的 FP8 模型檔轉換問題
b12481
重點導讀
更新修正了 llama.cpp 轉換 Qwen4exp 模型檔時,FP8 n-gram 表格的縮放設定與區塊縮放權重處理問題,也補上從 ModelOpt 模型檔還原區塊縮放權重的處理。
- 這讓相關模型檔能更正確地轉換。
- 更新也列出 macOS、Linux、Android、Windows 等平臺的下載版本。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處github.com
b12481
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: llama.cpp Releases (github.com)
開啟原文