llama.cpp 發布 b12373,加入 Hexagon 的 SSM_SCAN 運算支援
b12373
重點導讀
這次更新讓 llama.cpp 能在 Hexagon 上執行 SSM_SCAN 運算,也加入 HMX 支援,並調整資料搬運流程,減少運算時的停頓。
- 更新還改善了多裝置分工方式。
- 簡單說,這些改動是為了讓搭載 Hexagon 的裝置能處理更多運算,並讓運算流程跑得更順。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處github.com
b12373
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: llama.cpp Releases (github.com)
開啟原文