AI 叢集超過單一資料中心的供電與散熱能力,得分散到多處運作
Power and cooling limits force AI clusters with 100,000+ accelerators to use multiple data centers
重點導讀
AI 叢集愈來愈大,單一資料中心可能放不下,也不一定供得起電、散得了熱。文章提到,這類叢集通常有超過 100,000 個 AI 加速器,因此業界開始發展「跨地運算」網路,讓不同建築、園區甚至不同地區的運算裝置一起工作。Google 已推出 Virgo 網路架構,目標是把整個園區的運算設施當成一套系統。不過,資料中心隔得遠,訊號傳遞就會變慢,還可能遇到網路塞車和同步延遲;訓練 AI 時,裝置又得常常互傳資料,所以光有高速連線並不夠。網絡卡、交換器和軟體也得配合好,才能讓分散在多處的裝置有效合作。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處tomshardware.com
Power and cooling limits force AI clusters with 100,000+ accelerators to use multiple data centers
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Tom’s Hardware AI & Computing (tomshardware.com)
開啟原文