Epoch AI:AI 晶片的 AI 助理推論容量一年成長 4.6 倍
Agentic inference capacity grew 4.6× in a year, versus 2.6× for compute capacity
重點導讀
AI 晶片的峰值算力增加,未必代表它處理 AI 助理工作的能力也以同樣速度增加。
- Epoch AI 用固定的一組長上下文工作,估算已售出晶片的 AI 助理推論容量。
- 從 Q2 2025 到 Q2 2026,推論容量成長 4.6 倍,峰值 8 位元算力則成長 2.6 倍。差距主要來自 Hopper 換成 Blackwell,Blackwell 和 Blackwell Ultra 貢獻了新增容量的 74%,GB300 每張 GPU 的推論容量約是 H200 的 8 倍。作者預期,隨著累積容量變大,要維持同樣的成長幅度會更難。
- 這些估算也未納入軟體效率差異。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
Epoch AI 用固定工作負載比較晶片的推論能力與峰值算力,呈現 Blackwell 世代轉換如何拉開兩者的成長差距。
信源出處epoch.ai
Agentic inference capacity grew 4.6× in a year, versus 2.6× for compute capacity
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Epoch AI Updates (epoch.ai)
開啟原文