AI 工作負載該跑在哪裡?答案通常是資料放在哪裡
Where should AI workloads run? Probably next to the data.
重點導讀
AI 工作常要反覆讀取大量資料,把資料搬到有 GPU 的地方,可能增加傳輸費用,也讓工作變慢。
- 文章舉例,若以每 GB $0.02 計算,搬一次 300 TB 資料就要 $6,000。
- 這只是試算,實際費用會依搬運方式而變。與其每次搬資料,不如讓工作跑到資料所在的地方,再一起比較運算、搬資料、儲存和排隊的總成本,也要確認地點符合資料規定、裝置和軟體能支援工作。沒有一種地方適合所有工作:有些工作適合在雲端處理,有些留在公司自己的裝置附近更划算。資料位置或價格改變時,也要重新評估。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處thenewstack.io
Where should AI workloads run? Probably next to the data.
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: The New Stack (thenewstack.io)
開啟原文