跳到正文
Hugging Face Blog(huggingface.co)·· 3 天前精選品質評分83

Hugging Face 與 Thinking Machines Lab 推出 Inkling 2 Mini,主打本機使用

Welcome Inkling 2 Mini, Cutting-edge Performance for your Local Setup

重點導讀

本機執行大型模型時,模型大小、回答速度和能力常得互相取捨。

  • Hugging Face 與 Thinking Machines Lab 推出 Inkling 2 Mini,這款模型能讀文字和圖片,支援 1M-token 上下文視窗。
  • 它讓 12 層模型重複運作三次,用較少的實體層數完成更多運算。文章展示了它在本機寫程式、重畫《星夜》和製作分帳網站的成果,也說明如何透過 transformers、llama.cpp 和 MLX 執行。作者表示,它在 48 項基準中的 32 項領先文中列出的其他模型。
  • 這些結果來自 Hugging Face 的測試。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

文章以架構說明和實作展示呈現 Inkling 2 Mini 的本機使用方式,也比較它在多項基準上的表現,能看出模型設計與實際應用之間的連結。

信源出處huggingface.co

Welcome Inkling 2 Mini, Cutting-edge Performance for your Local Setup

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Hugging Face Blog (huggingface.co)
開啟原文

讀者討論

理性交流 · 即時討論