研究者說明 AI 叢集如何跨資料中心連線
Power and cooling limits push 100,000-accelerator AI clusters into scale-across networking
重點導讀
單一資料中心的電力、散熱和空間可能不夠容納大型 AI 叢集,因此研究者提出 scale-across,讓不同建築、園區甚至不同地區的資料中心連在一起。
- 它和機房內連線加速器、資料中心內連線機櫃的網路分工不同,目標是讓多個場址共同支援運算。Google 已提出面向整個園區的 Virgo 網路架構,Cisco 和 Marvell 也在開發相關技術。跨場址連線仍會遇到傳輸延遲、壅塞和封包遺失。
- AI 訓練需要加速器頻繁交換資料,延遲可能拖慢整個叢集,所以規劃時不能只看網路速度,也要一併考慮網路路徑和通訊方式。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
Power and cooling limits push 100,000-accelerator AI clusters into scale-across networking
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文