跳到正文
PyTorch Core Releases(github.com)· chinmaydk99·· 7 天前品質評分35

PyTorch FlyDSL 新增 gfx950 的 fused matmul 與 reduce-scatter 原型

ciflow/trunk/205040: [symm_mem] FlyDSL fused matmul+reduce-scatter on gfx950 (prototype)

重點導讀

這次更新在 FlyDSL 的選用版本中加入一種把矩陣運算和資料分散合在一起處理的原型。

  • 它使用 bf16 和加總方式,沿第 0 維分散資料,支援 TP 2、4、8,並限定用在 gfx950。
  • 運算時也會在同一個核心裡加總這個處理單位負責的資料區塊。這項功能需要 FlyDSL 和 gfx950 才能測試。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

信源出處github.com

ciflow/trunk/205040: [symm_mem] FlyDSL fused matmul+reduce-scatter on gfx950 (prototype)

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: PyTorch Core Releases (github.com)
開啟原文

讀者討論

理性交流 · 即時討論