跳到正文
PyTorch Core Releases(github.com)· adityavaid·· 3 天前精選品質評分74

PyTorch 為 MPS 加入 segment_reduce 前向運算

viable/strict/1795173662: [MPS] Add native segment_reduce forward pass (#197014)

重點導讀

PyTorch 使用 MPS 做 segment_reduce 時,原本沒有這項運算的原生前向實作。

  • 這次更新加入加總、平均、最大值、最小值和乘積運算,支援 float32、float16 與 bfloat16。
  • 反向運算目前還未實作。在 M5 Pro 的測試中,使用 offsets 的多種資料形狀都有加速,依運算種類約為 13 到 101 倍。
  • 改用 lengths 時,共用前端每次呼叫會多出兩次主機同步,部分測試因此變慢。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

這次更新提供 MPS 上 segment_reduce 前向運算的實測比較,也顯示輸入方式會大幅影響速度,評估效能時可一併留意主機同步成本。

信源出處github.com

viable/strict/1795173662: [MPS] Add native segment_reduce forward pass (#197014)

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: PyTorch Core Releases (github.com)
開啟原文

讀者討論

理性交流 · 即時討論