PyTorch 改用共用 CUDA 核心處理混合資料型態的加減運算
trunk/6e95b054945729c0edc7ecf9227386e1b63e45d0: Share mixed-dtype foreach add/sub FMA kernels (#205360)
重點導讀
不同資料型態一起做加減時,框架需要處理多種運算組合,也得避免整數轉換出錯。
- PyTorch 這次把部分加減運算改成共用的 FP32 FMA CUDA 核心,涵蓋原地修改和輸出為 FP32 兩種情況,並保留涉及 FP32 的資料型態組合。更新也調整了 alpha 的轉換順序,避免整數 0、INT64_MIN 和 UINT64_MAX 遇到取負問題。測試涵蓋兩種運算模式及整數 alpha。
- 提供的測試結果顯示,18 個 CUDA 測試案例通過,另有 1,296 組原始位元結果相符。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
這次更新整理了混合資料型態加減運算的 CUDA 核心,並用浮點結果與整數 alpha 的測試檢查不同情況下的結果是否一致。
信源出處github.com
trunk/6e95b054945729c0edc7ecf9227386e1b63e45d0: Share mixed-dtype foreach add/sub FMA kernels (#205360)
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: PyTorch Core Releases (github.com)
開啟原文