Hugging Face 與 Thinking Machines Lab 推出 Inkling 2 Mini,主打本機使用
Welcome Inkling 2 Mini, Cutting-edge Performance for your Local Setup
重點導讀
本機執行大型模型時,模型大小、回答速度和能力常得互相取捨。
- Hugging Face 與 Thinking Machines Lab 推出 Inkling 2 Mini,這款模型能讀文字和圖片,支援 1M-token 上下文視窗。
- 它讓 12 層模型重複運作三次,用較少的實體層數完成更多運算。文章展示了它在本機寫程式、重畫《星夜》和製作分帳網站的成果,也說明如何透過 transformers、llama.cpp 和 MLX 執行。作者表示,它在 48 項基準中的 32 項領先文中列出的其他模型。
- 這些結果來自 Hugging Face 的測試。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
文章以架構說明和實作展示呈現 Inkling 2 Mini 的本機使用方式,也比較它在多項基準上的表現,能看出模型設計與實際應用之間的連結。
信源出處huggingface.co
Welcome Inkling 2 Mini, Cutting-edge Performance for your Local Setup
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Hugging Face Blog (huggingface.co)
開啟原文