Rubin CPX:Nvidia 推出專為 Prefill 最佳化的加速器與機架
Another Giant Leap: The Rubin CPX Specialized Accelerator & Rack
重點導讀
Rubin CPX 是 Nvidia 針對推理 Prefill 階段設計的單晶片加速器,提供 20 PFLOPS FP4 計算與 2 TB/s 記憶體頻寬,搭配 128 GB GDDR7 以降低成本。
推薦理由
Rubin CPX 的低記憶體成本與高 FLOPS 讓推理成本大幅下降,讀者可評估對現有部署的影響與成本效益。
信源出處semianalysis.com
Another Giant Leap: The Rubin CPX Specialized Accelerator & Rack
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: SemiAnalysis (Dylan Patel) (semianalysis.com)
開啟原文