跳到正文
AI Engineer(youtube.com)· Evan Conrad·· 6 小時前精選AI 評分85

為什麼 AI 新創沒有算力市場就活不下去——San Francisco Compute 的 Evan Conrad

為什麼 AI 新創沒有算力市場就活不下去——San Francisco Compute 的 Evan Conrad

AI 導讀

San Francisco Compute 的 Evan Conrad 主張,算力正面臨信用瓶頸——放貸機構不願承作 AGI 的融資,而開設一間實驗室的保證金已從 1,000 萬美元膨脹到 10 億美元——這將使 AI 產業向既有大廠集中,創辦人得先買下價值 1 億美元的 Token 才能參賽。

🎙️

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

正文 · 原文

舊金山算力公司(San Francisco Compute)共同創辦人 Evan Conrad 主張,除非算力成為具流動性、可融資的市場,而不是一連串量身訂做、以信用審核為前提的叢集交易,否則 AI 新創終將被擠出市場、無法生存。整場演講大部分時間著墨於形塑今日 GPU 市場供不應求的融資鏈——訂金、交期、叢集延宕與信用瓶頸——直到最後才談到算力市場的運作機制,Conrad 在其中說明為何他的公司既經營叢集、又經營委託單簿(order book)。

Conrad 的經驗其來有自:他前一間公司 Junelark 募了 50 萬美元,原本打算打造音樂生成實驗室,買下一座卻填不滿的叢集,第一年全靠轉售算力才活了下來——照他的說法,這讓它成了史上第一家 GPU 仲介。這段經歷正是他主張「算力市場不可能與硬體的實際營運脫鉤」的依據。

每家 AI 公司卡關的都是信用,不是電力

Conrad 的核心論點是:AI 最關鍵的制約是信用,而且遠在電力或晶片供應之前就會卡住。放款機構無法對 AGI 做信用審核,只好改為審核客戶本身——這使得每一筆叢集交易,都必須先與投資等級的交易對手簽下長期照付不議(take-or-pay)合約,硬體才融得到資。結果就是一連串可預期的失靈,他依序拆解。

機制從毛利率說起。SaaS 公司毛利率高,雲端價格翻倍只會讓它們跳腳,不至於倒閉。AI 公司的毛利率「看起來完全不像 SaaS 公司」,雲端價格一翻倍就破產。這讓 AI 買家對價格極度敏感,也不願被綁在任何一家雲端上——反過來,雲端業者就無法靠隨選即用銷售,只能依賴預留型、照付不議的合約來為硬體融資。

「這是目前 AI 的頭號瓶頸。不是電力。你會在碰到 AI 之前、在碰到電力之前,就先撞上信用這道牆。」

創投則補上最後一塊拼圖。創投不直接出資本支出,而是投資模型層、應用層或推論層,這筆錢就成了新創付給雲端的訂金——雲端正是這樣完成對客戶的信用審核。

叢集融資鏈依序在五個環節失靈

Conrad 把這些問題視為同一個風險問題的不同表現形式——技術風險、財務風險與信用風險——而非彼此獨立的議題。每個環節的失靈都會餵養下一個。

| 階段 | 出了什麼問題 | 後果 |
|---|---|---|
| 市場供不應求 | 雲端若沒有長期包銷合約就融不到資 | 新增產能必須從零建置全新叢集 |
| 交期 | 實體世界的延宕;有時還得先蓋一座資料中心 | 客戶只能枯等,卻無力支付之後才上線的產能 |
| 訂金 | AI 圈幾乎沒有人信用條件說得過去;放款機構無法對 AGI 做信用審核 | 客戶得先付清整個銀行帳戶的餘額 |
| 延宕 | 部署前,放款機構必須先審核客戶的信用風險 | 叢集要等客戶簽約後才部署——這是整段營運中風險最高的時點 |
| 故障損失 | 客戶沒有流動性吸收高於預期的故障率 | 故障節點得走 RMA 維修,交期問題於是從頭再來一遍 |

Conrad 提出的反向做法是:雲端應該提前買下叢集、等它進到資料中心後再出售——這能大幅降低延宕風險。他也指出,最有能力架起叢集的人,是那些早已握有便宜資產(資料中心空間)的人;但擁有空間,並不代表具備超級運算的專業。

買多買少幾乎註定出錯,而且沒有退路

由於 AI 的毛利率容不下誤差,Conrad 說精準預測需求的機率極低。買少了,競爭對手勝出;買多了,公司就落得 Stability AI 或 Character AI 的下場。次級市場付之闕如,意味著產能過剩時無處可賣,需求意外暴增時也無處可買。

他以此說明算力市場為何必須存在:它讓超額配置產能的公司能平倉出場,也讓產品正在起飛的公司——他舉像 Instinct 這類正在擴張的業者為例——不必從零融資建置新叢集,就能取得產能。

成立 AI 實驗室的門檻,三年內漲了 100 倍

Conrad 追溯成立實驗室所需的訂金:從 Junelark 創立時的 1,000 萬美元,到 1 億美元,再到今天的 10 億美元。他說這條曲線不可能一直走下去:不可能有公司在還沒有營收、沒有市場驗證、沒有產品的情況下,就先募到 100 億美元的輪次。

他把這個邏輯往前推三到五年:一家兩人新創若想參賽,大約得先買下 1 億美元的 Token,因為現有業者早已砸下數億美元。沒有信用紀錄的創辦人,只能先向創投募到這 1 億美元,再拿去付訂金,或以此簽下五年合約。照他的說法,結果就是不會再有新的模型實驗室,也不會再有新的新創。

「沒有任何規則規定新創必須存在。」

他描述的另一條路,是推論公司把信用問題轉嫁到應用層——只簽投資等級的《財星》500 大客戶,簽五年期 Token 合約,並收取高額預付訂金。由於 Token 貫穿整個經濟體,這種結構會讓既有業者單憑信用條件就壓過新創,再把營收投入進一步改善自身信用——形成一個推動整個經濟走向集中的飛輪。

唯有實物交割行得通,卻沒有人想蓋

Conrad 把舊金山算力公司的模式定義為實物交割遠期合約:公司既像雲端業者一樣營運硬體,本身又是市場——「有點像算力的電網」。它必須掌控的技術堆疊,涵蓋物料清單與超級電腦設計、背板互連架構、裸機排程,以及 VM 等服務。它把「超級運算即服務」賣給想成為雲端的各方——NVIDIA NCP 候選業者、想為旗下投資組合取得可重新配置叢集的創投,以及想讓算力保有殘值、又不願自己營運超級電腦的 AI 公司。

他提到 CNCF 基礎設施工作組(Kubernetes 背後的組織)共同主席、曾任職於 Lambda 的 Dylan Page 之所以加入,正是因為 GPU 算力標準化與可靠度都還不夠,市場營運者不可能與實體基礎設施脫鉤。

旅館的類比撐起整套論證:如果你買下別人旅館的房間,卻需要客房服務、清潔或維修,除非賣方就是經營旅館的人,否則你根本找不到人處理。仲介叢集也是同樣的道理,行不通。

「你得像經營旅館那樣去營運叢集。整攤事你都得自己扛。否則,你根本做不成一個市場。」

接著他點出讓競爭者卻步的誘因:要做實物交割,等於要具備一整套 GPU 雲端的營運能力;而一旦你做到了,你乾脆就去做 GPU 雲端就好,因為那些都是十億美元等級的交易。「所以,管他的,」他說——到頭來大家都去當雲端了。舊金山算力公司之所以自己蓋市場,是因為創辦人想成立 AI 實驗室,沒有這個市場就辦不到。

阻力最小的路,是台積電式的集中化

Conrad 主張,在其他產業裡,同樣的壓力最終都導致集中化——由一個信用條件夠好的大客戶吞下整個產業。他說 AI 目前正走在這條路上:少數幾家雲端、少數幾間模型實驗室,其他人毫無容身之地。他賦予這件事的利害關係既切身又具體——他希望舊金山和紐約那些兩人新創能夠存在,萬一其中一家做出癌症解方,或做出什麼沒有人預料到的東西,而不是「一堆 AI 垃圾」。

結尾的意象是一份三折傳單:正面寫著「成立新實驗室很鳥,因為財務與經濟問題」;背面寫著「算力市場」;中間的摺頁才是難處所在。要解決它,得同時解開兩個奇蹟級的難題——造出一個市場(而市場有冷啟動問題),以及蓋出一朵雲,然後不讓自己變成雲。

未解的張力在於:Conrad 所描述的這個市場,並沒有天然的商業擁護者——最有能力把它打造出來的實體,恰恰也是放棄它、轉去做雲端獲利最豐的那一個。舊金山算力公司能否在競爭對手簽下十億美元交易的同時守住這條線,正是這場演講留下來的開放問題。

來源: AI Engineer (youtube.com)
開啟原文