跳到正文
a16z(youtube.com)· Ben Horowitz·· 3 小時前精選AI 評分85

亞馬遜執行長 Andy Jassy 談 2,200 億美元的 AI 基礎建設佈局

亞馬遜執行長 Andy Jassy 談 2,200 億美元的 AI 基礎建設佈局

AI 導讀

亞馬遜執行長 Andy Jassy 將這筆 2,200 億美元的 AI 基礎建設投資,定調為一項受供給限制、需多年投入的基礎設施賭注;他主張資料中心是國家級的必要建設,並認為 Trainium、Graviton 等自研晶片能透過降低推論成本,推動企業採用 AI。

🎙️

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

推薦理由

亞馬遜 2,200 億美元 AI 基礎建設投入凸顯企業級 AI 需求與供應瓶頸,對業界投資與成本壓縮提供可參考案例。

正文

Amazon 執行長 Andy Jassy 表示,AI 需求遠遠超前供給,因此 Amazon 2026 年將投入約 2,200 億美元的資本支出,即便如此仍有大量需求無法被滿足:2026 年產能已售罄、2027 年大致售罄、2028 年也已有相當比例被預訂。這場與 Ben Horowitz、Erik Torenberg 的對談,大部分時間聚焦在這波擴建背後的經濟帳——資料中心與伺服器截然不同的現金迴圈、透過 Annapurna 打造的自研晶片(Graviton 與 Trainium),以及對 Anthropic 和 OpenAI 的投資——隨後轉向 AI 如何改變 Amazon 自身的組織、Alexa 與其他消費體驗的重塑,以及 Jassy 認為業界目前低估的近期安全風險。

Jassy 自 2021 年接任執行長至今已五年,他以這段經歷比較當前 AI 浪潮與早期雲端:AWS 花了三年才達到 6,000 萬美元的年化營收規模,而 Amazon 在 AWS 內部的 AI 業務,頭三年就突破 250 億美元的年化規模。讀者讀完應能掌握:Amazon 自述的產能狀況、其資本支出為何在財務上可行的論述、對上 Intel 與 Nvidia 的晶片策略,以及它認為多數企業應用將在五到七年內普遍採用推論的觀點。

Amazon 表示:就算花超過 2,200 億美元,需求仍無法滿足

Jassy 把資本支出的問題定調為「看得見多少需求」,而非「敢不敢花」。Amazon 預期 2026 年資本支出約 2,200 億美元——Horowitz 換算下來大約是每天 6 億美元——Jassy 說即使花到這個水準,「我們仍把相當可觀的需求留在桌上」。他認為缺貨不會只到 2027 年:「我真希望我能告訴你,我認為供給吃緊只是 2027 年的問題。我認為未來好幾年,我們會在不同零元件上看到這種情況。」

他主張這樣的支出是有紀律的,論點建立在擴建的兩大部分現金迴圈截然不同:

| 專案 | 開始變現前的前置期 | 使用年限 | 回收 |
|---|---|---|---|
| 資料中心(建築) | 約 2 年 | 約 30 年 | 一次性投入 |
| 伺服器與網路裝置 | 數個月,依零元件而異 | 5–6 年 | 平均約 3 年 |

由於伺服器與網路裝置只需提前幾個月下單,Amazon 能在承諾採購前先看到客戶需求;若產能不需要,就乾脆不買裝置。多數合約是約五年的承諾。Jassy 也坦承代價:當大量資料中心同時興建、尚未上線變現的那幾年,自由現金流會受到壓縮。

他也提到記憶體的取捨:記憶體供給有限,Amazon 必須決定多少分配給 AI 加速器用的 HBM、多少留給非 AI 的核心業務用的 DRAM,而兩邊都在快速成長。在定價上,Jassy 否決了「擠壓長期核心客戶、把稀缺產能把更高價格賣給 AI 實驗室」的想法。他舉疫情期間為例:Amazon 派業務團隊協助客戶降低成本,明知這會減少近期營收,他說同樣的原則適用於現在:「我們不會去擠壓客戶。」

「就算今年花 2,200 億美元,我們仍把相當可觀的需求留在桌上。我們一向會保留一部分給隨選需求,但 26 年顯然已售罄,27 年大致售罄,28 年也已有相當比例售出。」

AI 需求呈槓鈴分佈,中間那塊才是大獎

Jassy 形容 AI 需求像槓鈴。一端是 AI 實驗室,消耗「海量、我前所未見的算力」,再加上少數爆紅的應用,例如 ChatGPT 和 Claude Code。另一端是企業用 AI 來避免成本、提升生產力——客服、詐欺防治、業務流程自動化。至於中間那塊——他預期會成為絕對規模最大的區塊——是企業既有的生產環境工作負載,而其中絕大多數目前都還沒普遍採用推論。

他的預測是:五到七年內,今日的企業應用「相當多、甚至大多數」都會普遍使用推論。但他對速度很謹慎:「這種事從來不會一次到位。」他點出的關鍵門檻是成本。推論成本已經下降,但他認為對普遍採用而言仍貴了一個數量級。企業在評估把工作負載從 CPU 改寫到 AI 加速器時,成本差距越大、門檻就越高;推論成本降下來,門檻也跟著降。

Annapurna、Graviton 與 Trainium:自研晶片是價效比的槓桿

Jassy 稱 2015 年併購 Annapurna Labs 是「Amazon 史上最成功的併購之一,甚至可能是最成功的一筆」。這筆併購原本不是為了 AI 晶片,最初的目的是做一張 NIC,把虛擬化、網路、安全與儲存解除安裝出去,讓 EC2 伺服器幾乎 100% 的算力都能給客戶使用——這個零元件後來裝進了 Amazon 每一臺伺服器。

晶片版圖的擴張則源自市場結構。Intel 幾乎握有全部 CPU 市佔,Jassy 說,市佔這麼高的合作夥伴,重心會放在能推升自家營收的功能,而不是價效比。Amazon 爭取更好價效比的訴求得不到回應,於是把 Annapurna 團隊轉去做 CPU。Graviton 如今已被 Amazon 前 1,000 大 EC2 客戶中的 99% 普遍採用,Jassy 說其價效比優於其他 x86 處理器約 40%。

他說在 AI 領域看到「同一部電影」上演,同樣有一家獨大的供應商(Nvidia,Amazon 與其維持深度合作)。另一個 Annapurna 團隊打造了 Trainium,Jassy 說其價效比優於同級處理器約 30–40%。Anthropic 已對 Trainium 做出為期多年、規模達數百萬瓩(multi-gigawatt)的承諾。

flowchart TD
    A["2015 年併購 Annapurna Labs"] --> B["為 EC2 伺服器解除安裝的 NIC"]
    B --> C["團隊展現打造晶片的能力"]
    C --> D["Graviton CPU"]
    C --> E["Trainium AI 加速器"]
    D --> F["價效比優於 x86 約 40%"]
    E --> G["價效比優於同級 AI 晶片約 30-40%"]
    E --> H["Anthropic 數百萬瓩承諾"]

投資 Anthropic 與 OpenAI,本質上是夥伴關係的決定

Jassy 說這兩家都是「非常令人驚豔的團隊」,其營收成長速度他不確定業界是否見過。投資邏輯有三個部分:相信 AI 具顛覆性、相信這兩家會是這個領域長期最成功的公司之一,以及既有夥伴關係的深度。他講得很明白:不是每個人都會贏,但他預期會有很多成功者,而這兩家就在其中。

談到合作較久的 Anthropic,他舉出在 Bedrock 上執行 Anthropic 模型的客戶、雙方在 Trainium 上的共同開發,以及他所說 Anthropic 與 Trainium 團隊之間的相互學習。談到 OpenAI,他說許多客戶想在 AWS 上用 OpenAI,卻因為 OpenAI 先前的商業安排而無法如願;經過數月協商,才有了在 Bedrock 上執行 OpenAI 模型的能力,以及雙方共同打造的「具狀態執行環境(stateful runtime environment)」。Jassy 預期這將是未來打造代理(agent)的方式,因為代理需要狀態。

資料中心成了政治問題,Jassy 逐一反駁指控

Jassy 主張,這波擴建堪比 1950 年代的高速公路與橋梁建設,美國不建不行,否則「像中國這樣的另一個國家會建立起所有的領導地位與所有規範」。接著他反駁幾項批評,並以 Amazon 自身營運的具體數字佐證:

  • 用水: 他說高爾夫產業和杏仁種植的用水量遠高於資料中心;高爾夫球場的用水量是 Amazon 所有資料中心的 200 倍,兩天就用掉資料中心一整年的水量。
  • 空汙許可: 備用發電機的登記是以全時、全容量計算排放,但發電機一年大約只運轉 10 小時,約 0.1% 的時間,用於維護。
  • 電價: 有些地區電價上漲、有些下跌。Jassy 說根本問題是電網基礎設施數十年投資不足,一旦產能到位,電價通常會持平或下降,他稱印第安納州、喬治亞州和密西西比州就是如此。
  • 稅收: Amazon 在印第安納州聖約瑟夫郡繳了約 30 億美元的稅,這些錢回饋給地方社群。Amazon 的 Built Together 計畫另承諾五年內在資料中心所在社群投入 10 億美元。

他坦承業界還能做得更好,也承認這波建設來得很快,大家都在邊做邊學。他把解方定調為與地主社群的公私協作。

AI 讓團隊縮編,也迫使 Amazon 重寫自家軟體

Jassy 說 Bedrock 團隊用六名工程師、76 天就重寫了 Amazon 的推論引擎,這在過去他認為要 40 個人做一年。他把這個故事拿到內部分享,讓大家看到什麼是可能的。更近的例子:週四才拍板的代理構想,週日就有四、五個人做出可運作的原型,「80% 可以直接上線」。

他對組織的預測:

  • 做今日工作的「人」會變少,涵蓋寫程式、客服、商業智慧、研究、製作試算表與法務工作——不是歸零,但會比公司過去隨規模擴張而投入的人力少。
  • AI、機器人與太空會創造新職缺,有些可以預見,有些不能。
  • 團隊會小得多、職能更跨域;個人不再只守一小塊,因為模型已經幫你做到 80%。
  • 每個團隊的起跑點都會更前面,發明因此能更廣、更快。
  • 新創從第一天就以代理原生(agent-native)的方式打造;大型既有業者必須學會用同樣的速度建構,否則就會陷入劣勢。
  • 企業幾乎所有程式碼都得重寫,才能具備代理能力,包括設計讓代理能安全更新程式碼的種種限制。

他把這件事連結到安全。Jassy 說,過去一兩個月社會的焦慮集中在天馬行空的情境——邪惡的殭屍網路、懷有惡意的機器人——他認為這些有可能發生,但預期業界與公私協作能處理。他認為更近的風險是資安:模型找出的漏洞遠比人類多,應用程式必須能在幾分鐘內回應迫在眉睫的威脅。目前「發現、分類、修補、部署」的迴圈太慢,而那些應用程式無法由代理更新的公司「在那個新世界裡將毫無機會」。Amazon 有專業服務團隊協助客戶,還有一項名為 Continuum 的服務,能找出漏洞並產生修補程式。

Amazon 每一項主要體驗都必須重新想像,而非漸進改良

Jassy 的原則是:如果既有業者只把 AI 當成對成功體驗的漸進改良,三到五年後很可能就拿不到那個勝出的體驗。Alexa 就是最明顯的例子——它最初的「大腦」在當年很有創意,但生成式 AI 要求把整個架構重新接線。他說,即使需求顯而易見,做起來還是很難,因為團隊對自己打造的東西有感情,也帶著一路走來、關於什麼行得通的傷痕。

更難的是零售、Prime Video、Fire TV 和 Prime Music,這些地方「必須重寫」的需求沒那麼明顯。Amazon 已有團隊在做各自全面重新想像的版本。他預期 Amazon 不會一次就做對,會反覆迭代。他點出的未解問題是一場賽跑:究竟是客戶會轉向全新的體驗,還是新能力會快速融入既有產品、把它們一塊一塊地改變。

他把這件事連結到變革管理,比擬為地端轉雲端的過程——當年基礎架構主管對自己熟知的系統深感自豪,不願意學新東西。

Jassy 會給 18 歲年輕人的建議,以及 Amazon 為何同時下多個注

Jassy 給年輕人的建議,來自他對 22 歲和 25 歲子女說的話:你躲不掉 AI,也無法指望它消失,所以就去學、大量使用,包括在自己不熟悉的領域。他的兩個孩子都不是開發者,但都用 AI 做過應用程式。他也提醒,AI 寫出來的東西看得出來——「拼湊得不太對」——而且 AI 取代不了批判性思考。用商學院個案來比喻:AI 能讓所有人快速站到一個較高的起跑點,但要把這些點串成策略、計畫或新產品,仍然需要人的判斷、巧思與實驗。

談到 Amazon 的多元佈局——從 Amazon Leo 衛星(瞄準約 5 億戶沒有寬頻的家庭)、Zoox 自駕叫車、醫療、機器人到生鮮雜貨——Jassy 說公司正身處我們這一生三大轉型中的三個:AI、機器人與太空開發。避免戰線過長靠的是結構:Amazon 不會讓同一批人同時管多項業務,而是採去中心化、單一負責人(single-threaded owner)的組織方式。只要有對的領導者與建造者、夠大的客戶體驗、有差異化的構想,以及尚未被滿足的市場空間,Amazon 就能同時推進多項業務。剩下的變數是投資意願。他承認專注本業也可以是非常成功的策略,但他說客戶希望 Amazon 解決更多問題。

資本支出的賭注與資安的時鐘,其實是同一個賭注

這場對談有兩條線指向同一個方向。Jassy 主張花 2,200 億美元——而且願意花更多——的前提是槓鈴中間那塊能補起來,而這又取決於推論成本下降約一個數量級,這正是 Trainium 和 Graviton 要達成的目標。資安論點則把整個迴圈接了起來:如果應用程式必須重寫到能由代理在幾分鐘內更新,那麼讓企業成為 AI 原生的同一場代理化重建,也同時讓它們具備防禦力。尚未化解的張力在於時機。Jassy 說資料中心興建中、尚未變現的期間,自由現金流會面臨逆風;他不願承諾供給何時追上需求,只說零元件短缺會持續好幾年。接下來要觀察的是:2028 年產能是否會像 2026、2027 年一樣售罄,以及槓鈴中間的企業推論採用是否會在這波擴建的折舊開始認列之前加速。

來源: a16z (youtube.com)
開啟原文