跳到正文
llama.cpp Releases(github.com)· github-actions[bot]·· 9 天前精選品質評分82

llama.cpp 發布 v1.0.0,新增模型支援並加強伺服器防護

v1.0.0

重點導讀

使用本機模型時,開發者會遇到模型格式、硬體和伺服器安全等不同問題。

  • llama.cpp v1.0.0 更新了公開 API,加入 FP8 KV 快取、CPU 專家快取和外部資料分片載入,也支援 Kimi-K3.1-Pro、Ripple、xing4_0 等模型,以及語音和視覺輸入。伺服器部分修正了 DNS rebinding、CORS 和 SSRF 等安全問題,也新增語音生成 API。
  • 網頁介面則加入聊天分組和 Markdown 編輯器。這次更新涵蓋模型執行、伺服器和操作介面,並同步升級 ggml 至 v1.0.0。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

這次更新同時調整 llama.cpp 的公開 API、模型支援與伺服器防護,能看出這個工具如何擴充套件本機多模態應用並處理常見網路風險。

信源出處github.com

v1.0.0

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: llama.cpp Releases (github.com)
開啟原文

讀者討論

理性交流 · 即時討論