跳到正文
Epoch AI Updates(epoch.ai)· Jason Li·· 5 天前精選品質評分68

Epoch AI:AI 晶片的 AI 助理推論容量一年成長 4.6 倍

Agentic inference capacity grew 4.6× in a year, versus 2.6× for compute capacity

重點導讀

AI 晶片的峰值算力增加,未必代表它處理 AI 助理工作的能力也以同樣速度增加。

  • Epoch AI 用固定的一組長上下文工作,估算已售出晶片的 AI 助理推論容量。
  • 從 Q2 2025 到 Q2 2026,推論容量成長 4.6 倍,峰值 8 位元算力則成長 2.6 倍。差距主要來自 Hopper 換成 Blackwell,Blackwell 和 Blackwell Ultra 貢獻了新增容量的 74%,GB300 每張 GPU 的推論容量約是 H200 的 8 倍。作者預期,隨著累積容量變大,要維持同樣的成長幅度會更難。
  • 這些估算也未納入軟體效率差異。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

Epoch AI 用固定工作負載比較晶片的推論能力與峰值算力,呈現 Blackwell 世代轉換如何拉開兩者的成長差距。

信源出處epoch.ai

Agentic inference capacity grew 4.6× in a year, versus 2.6× for compute capacity

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Epoch AI Updates (epoch.ai)
開啟原文

讀者討論

理性交流 · 即時討論