llama.cpp 發布 v1.0.0,新增模型支援並加強伺服器防護
v1.0.0
重點導讀
使用本機模型時,開發者會遇到模型格式、硬體和伺服器安全等不同問題。
- llama.cpp v1.0.0 更新了公開 API,加入 FP8 KV 快取、CPU 專家快取和外部資料分片載入,也支援 Kimi-K3.1-Pro、Ripple、xing4_0 等模型,以及語音和視覺輸入。伺服器部分修正了 DNS rebinding、CORS 和 SSRF 等安全問題,也新增語音生成 API。
- 網頁介面則加入聊天分組和 Markdown 編輯器。這次更新涵蓋模型執行、伺服器和操作介面,並同步升級 ggml 至 v1.0.0。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
這次更新同時調整 llama.cpp 的公開 API、模型支援與伺服器防護,能看出這個工具如何擴充套件本機多模態應用並處理常見網路風險。
信源出處github.com
v1.0.0
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: llama.cpp Releases (github.com)
開啟原文