Google Research:利用凍結的多Token預測技術在 Pixel 裝置上加速 Gemini Nano 模型
Accelerating Gemini Nano models on Pixel with frozen Multi-Token Prediction
重點導讀
Google Research 宣佈推出一項新架構,將多Token預測(MTP)技術應用到已部署且權重被凍結的 Gemini Nano v3 模型上。
該方法採用零複製架構直接利用主模型的鍵值快取,在 Pixel 9 和 10 系列裝置上實現了 50% 或更高的推理速度提升,並減少了能耗。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處research.google
Accelerating Gemini Nano models on Pixel with frozen Multi-Token Prediction
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Google Research (research.google)
開啟原文