llama.cpp b12561 加入 Vulkan 版 GATED_DELTA_NET 分段處理
b12561
重點導讀
在不同顯示卡上執行同一種運算時,效能調整和相容性處理可能各不相同。
- llama.cpp b12561 更新 Vulkan 版 GATED_DELTA_NET,加入分段處理,並針對 RDNA4、Ampere 和 NVIDIA 顯示卡調整程式,也修正部分驗證錯誤與效能問題。
- 這次更新還列出多種系統與硬體的下載版本,方便使用者依自己的裝置選用。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處github.com
b12561
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: llama.cpp Releases (github.com)
開啟原文