PyTorch 為 ROCm 的 UALink GPU 加入 fabric handle 記憶體共享
viable/strict/1795152039: [ROCm] Add Fabric handle support for expandable segment IPC (#204073)
重點導讀
ROCm 原本用 POSIX 檔案描述符,讓不同 GPU 共享可擴充的記憶體區塊;區塊很多時,開啟的檔案描述符會碰到數量上限。
- 這項 PyTorch 修改加入 fabric handle,讓支援 UALink 的 GPU 改用另一種共享方式,並修正 HIP 不接受特定主機存取設定的問題。
- 作者在 MI450 和 ROCm 10.3 上測試,16,384 個區塊都能完成共享,而檔案描述符方式在上限較低時會提早失敗。
- 測得的頻寬提升不大,這項修改主要改善大量區塊共享時的可靠性。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
這項修改主要改善 UALink GPU 間共享大型記憶體區塊時的穩定性,也避開檔案描述符數量上限;文中測試顯示傳輸頻寬提升有限。
信源出處github.com
viable/strict/1795152039: [ROCm] Add Fabric handle support for expandable segment IPC (#204073)
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: PyTorch Core Releases (github.com)
開啟原文