Inkling 2 Mini 如何用重複運算,讓 26.4B 引數模型裝進約 20GB
Inkling 2 Mini: How a Looped Transformer Squeezes 26B Parameters Into 20GB
重點導讀
模型引數多,常會需要更多記憶體;Inkling 2 Mini 用一種重複運算的方法,讓模型可以裝進約 20GB。
- 它會讓中間幾層重複處理同一份資料,因此用同一批引數多算幾次,而不是一直增加新引數。模型共有 26.4B 引數,每個 token 只啟用 3.4B,文章說可在 32GB Mac 上執行。它在 SWE-bench Verified 得到 79.2%,但這些成績來自團隊自己的測試,還沒有獨立重現。
- 文章也提到,不同來源對重複運算的次數說法不一。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
文章以 Inkling 2 Mini 的引數規模、記憶體需求與程式基準比較,說明重複使用部分層如何用更多運算換取較小模型,並交代測試仍來自實驗室。
信源出處dev.to
Inkling 2 Mini: How a Looped Transformer Squeezes 26B Parameters Into 20GB
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文