Gemma 4 於 Apple Silicon 上加速 90%:多 token 預測實現
Faster Gemma 4 on MLX with multi-token prediction
重點導讀
Gemma 4 在 Apple Silicon 上透過多 token 預測,速度提升近 90%。
- 速度提升:在 Aider polyglot benchmark 上,Gemma 4 12B (nvfp4) 在 M5 Max 上平均提升 90%。
推薦理由
Gemma 4 於 Apple Silicon 上透過多 token 預測將速度提升至 90% ,並自動調整 Draft 長度,讓代理快回應。
信源出處ollama.com
Faster Gemma 4 on MLX with multi-token prediction
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Ollama Blog (ollama.com)
開啟原文