AI 工作負載該跑在哪裡?答案通常是資料放在哪裡
AI 工作常要反覆讀取大量資料,把資料搬到有 GPU 的地方,可能增加傳輸費用,也讓工作變慢。文章舉例,若以每 GB $0.02 計算,搬一次 300 TB 資料就要 $6,000;這只是試算,實際費用會依搬運方式而變。與其每次搬資料,不如讓工作跑到資料所在的地方,再一起比較運算、搬資料、儲存和排隊的總成本,也要確認地點符合資料規定、裝置和軟體能支援工作。沒有一種地方適合所有工作:有些工作適合在雲端處理,有些留在公司自己的裝置附近更划算。資料位置或價格改變時,也要重新評估。