llama.cpp b12552 改善 OpenVINO 效能並修正模型相容問題
b12552
重點導讀
llama.cpp 的 OpenVINO 支援在不同提示詞長度或輸出數量改變時,可能得重新編譯模型,或重用不合適的舊模型,造成速度變慢甚至執行失敗。
- 這次更新調整 GPU 的 KV 長度、改善提示詞處理階段的模型重用方式,也讓系統確認輸出數量相符才沿用編譯結果。
- 模型快取也會把輸出設定納入檢查。更新還修正多種模型在 GPU、NPU 和靜態形狀設定下的問題,並加入 Falcon-H1 的 OpenVINO 驗證資料。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處github.com
b12552
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: llama.cpp Releases (github.com)
開啟原文