PyTorch Inductor 修正含 reduction 的組合核心設定,讓結果與單獨執行一致
ciflow/inductor/205593: [Inductor] Preserve tuned reduction launch settings in combos (#205593)
重點導讀
PyTorch Inductor 把多個小型運算合在一起跑時,可能讓不同運算共用同一組執行設定;如果其中有加總運算,設定不同就可能改變加總順序,讓結果和單獨執行時出現些微差異。
- 這次修改會按各運算調好的設定拆分組合,並讓含加總運算的組合跳過執行時再次調整設定。測試中,原本 32 個輸出有 22 個和單獨執行不同。
- 修正後,結果能逐位元相同。實際測試的 7 組圖表,執行時間變化平均為 +0.09%,落在每次測量的自然波動範圍內。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處github.com
ciflow/inductor/205593: [Inductor] Preserve tuned reduction launch settings in combos (#205593)
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: PyTorch Core Releases (github.com)
開啟原文