跳到正文
aihot(aihot.news)· noreply@aihot.news (Unsloth)·· 2 天前精選品質評分78

Unsloth 發布 Mistral Le Chonk 1-bit GGUF 量化版,能在本機執行 1T 引數模型

Unsloth 釋出 Mistral Le Chonk 1-bit GGUF 量化版,可本地執行 1T 引數模型

重點導讀

Mistral Le Chonk 1-bit GGUF 量化版已能在 Mac Studio 本機執行,維持 91% 的 top‑1 準確率。

  • 模型規模:1 000 000 000 000 引數(1T)。
推薦理由

說明 1-bit GGUF 量化版可在 Mac Studio 本機執行 1T 引數模型,對需要本機部署大型模型的工程師與安全研究者具參考價值。

正文

Mistral Le Chonk 現在可以在本地運行了!

這個 1 萬億引數模型可以在 Mac Studio 上執行,使用的是我們的 1-bit GGUF,保留了 91% 的 top-1 準確率。

Le Chonk 是迄今為止最強的西方開源模型。

GGUF:https://huggingface.co/unsloth/Mistral-Large-4-1T-A52B-GGUF
指南:https://unsloth.ai/docs/models/mistral-large-4

引用 @MistralAI:

今天,我們釋出了全新改進版 Le Chonk 的權重,推進智慧體程式設計與網路安全領域的開放前沿。

💻 為構建而生:Le Chonk 在 @cognition 的 FrontierCode 上於開放模型中排名第一,並在 @artificialanalysis 上樹立了帕累托效率的新基準。

🛡 為防禦而生:網路防禦領域的頂尖水平,已通過全球領先網路安全廠商的檢驗,包括 @CrowdStrike、@cloudflare、@rubrik、@zscaler 等。

為主權而構建:讓它成為你的。在 @huggingface 上下載權重,使用 Mistral Forge 進行定製,並部署到你需要的任何地方。

閱讀我們團隊和客戶的更多內容 👇:

https://x.com/MistralAI/status/2115811242556137820

—— 本文由 AIHOT 聚合整理,完整版與更多 AI 動態見 https://aihot.news/items/rph54wkrnzjpvov4cv0mxqatl

來源: aihot (aihot.news)
開啟原文