跳到正文
PyTorch Core Releases(github.com)· chinmaydk99·· 3 天前精選品質評分69

PyTorch 為 ROCm 的 UALink GPU 加入 fabric handle 記憶體共享

viable/strict/1795152039: [ROCm] Add Fabric handle support for expandable segment IPC (#204073)

重點導讀

ROCm 原本用 POSIX 檔案描述符,讓不同 GPU 共享可擴充的記憶體區塊;區塊很多時,開啟的檔案描述符會碰到數量上限。

  • 這項 PyTorch 修改加入 fabric handle,讓支援 UALink 的 GPU 改用另一種共享方式,並修正 HIP 不接受特定主機存取設定的問題。
  • 作者在 MI450 和 ROCm 10.3 上測試,16,384 個區塊都能完成共享,而檔案描述符方式在上限較低時會提早失敗。
  • 測得的頻寬提升不大,這項修改主要改善大量區塊共享時的可靠性。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

這項修改主要改善 UALink GPU 間共享大型記憶體區塊時的穩定性,也避開檔案描述符數量上限;文中測試顯示傳輸頻寬提升有限。

信源出處github.com

viable/strict/1795152039: [ROCm] Add Fabric handle support for expandable segment IPC (#204073)

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: PyTorch Core Releases (github.com)
開啟原文

讀者討論

理性交流 · 即時討論