PyTorch Transport 為 Mooncake 加入端點通知功能
trunk/f5fcbc1a25eb9d6ddbeaf0845e1121a0c29c6eab: [Transport] Add peer notifications to Mooncake transports (#204136)
重點導讀
PyTorch 的傳輸工具原本需要另外傳送小訊息時,少了一套通知方式。
- 這次更新讓端點能傳送短短的位元組訊息,也能把通知附在資料讀取或寫入時一起送出,再用輪詢或等待的方式接收。
- Mooncake 會把每則通知當成獨立的空資料傳輸,因為在 0.3.14 版中,附在非空 RDMA 傳輸上的通知會遺失。
- 這讓傳輸端點能交換簡短通知,但通知要分開傳送才能避免遺失。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處github.com
trunk/f5fcbc1a25eb9d6ddbeaf0845e1121a0c29c6eab: [Transport] Add peer notifications to Mooncake transports (#204136)
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: PyTorch Core Releases (github.com)
開啟原文