PyTorch 將舊版 ProcessGroupNCCL 移出開源版,改用 nccl2
ciflow/trunk/205374: [c10d] Move legacy ProcessGroupNCCL to c10d/fb/ (internal only)
重點導讀
PyTorch 開源版原本還會建置舊版 ProcessGroupNCCL,這次更新把它移到內部程式碼,讓開源版的 ProcessGroupNCCL 改用 nccl2。
- 舊版後端和部分 Python、C++ 介面也一併移除。
- 需要使用相關 C++ 擴充功能的開發者,得改用新的 nccl2 標頭檔。直接建立 ProcessGroupNCCL 時,現在會依群組排名設定裝置並提早初始化通訊。
- 若程式要使用其他裝置,就必須設定群組排名,或啟用延後初始化。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處github.com
ciflow/trunk/205374: [c10d] Move legacy ProcessGroupNCCL to c10d/fb/ (internal only)
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: PyTorch Core Releases (github.com)
開啟原文