PyTorch 為 MPS 加入 segment_reduce 前向運算
viable/strict/1795173662: [MPS] Add native segment_reduce forward pass (#197014)
重點導讀
PyTorch 使用 MPS 做 segment_reduce 時,原本沒有這項運算的原生前向實作。
- 這次更新加入加總、平均、最大值、最小值和乘積運算,支援 float32、float16 與 bfloat16。
- 反向運算目前還未實作。在 M5 Pro 的測試中,使用 offsets 的多種資料形狀都有加速,依運算種類約為 13 到 101 倍。
- 改用 lengths 時,共用前端每次呼叫會多出兩次主機同步,部分測試因此變慢。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
這次更新提供 MPS 上 segment_reduce 前向運算的實測比較,也顯示輸入方式會大幅影響速度,評估效能時可一併留意主機同步成本。
信源出處github.com
viable/strict/1795173662: [MPS] Add native segment_reduce forward pass (#197014)
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: PyTorch Core Releases (github.com)
開啟原文