跳到正文
AI Engineer(youtube.com)· Affaan Mustafa·· 3 小時前精選AI 評分85

為何算力交易仍停留在群組對話裡——Jump Trading 的 Affaan Mustafa 與 Alejandro Soumah Fernandez

為何算力交易仍停留在群組對話裡——Jump Trading 的 Affaan Mustafa 與 Alejandro Soumah Fernandez

AI 導讀

Jump Trading 的 Affaan Mustafa 與 Alejandro Soumah Fernandez 說明為何算力至今仍以雙邊方式在群組對話中交易,並主張需要標準化的容量合約與信用穩健的中介機構,才能填補中間市場的缺口。

🎙️

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

正文

Jump Trading 運算交易(Compute Trading)負責人 Affaan Mustafa 認為,運算市場至今仍是私下雙邊撮合的「暗」市場,因為每一筆交易都是量身訂做,長期容量也沒有普遍採用的交易所。整場對談多半在拆解市場結構:從晶片、電力到資本的宏觀建設鏈條、中間市場買方面臨的融資擠壓,以及由經紀商、指標與新興期貨組成的破碎微結構。標題裡的「暗池」只是開場用來定義市場的框架,並非另一個獨立主題;政策與出口管制只在結尾簡短帶過。

Mustafa 與共同主持人 Alejandro Soumah Fernandez 來自一家自營交易公司,正把自己定位成買方與供應商之間的資產負債表橋梁。讀完應該能具體掌握:GPU 小時合約實際上怎麼談成、為什麼一家 B 輪新創會因為 15–25% 的預付款而被迫退出三年期叢集,以及 Jump 認為標準化容量合約與避險工具的角色在哪裡。

運算交易發生在 Slack 與 Telegram,不在交易所

Mustafa 把標題所稱的「暗池」定義為未公開揭示的市場:多數運算交易以實體區塊進行,透過經紀商私下報價,並以雙邊長期商業協議結算。這些協議混合了主服務協議(MSA)、服務等級協議(SLA),以及針對特定叢集、帶有硬體專屬條款的訂單檔案。議價焦點在 SKU,也就是晶片與基板,例如 H100、H200 或 V300,實際談判則在公開視野之外進行。市場上沒有廣為採用的交易所讓所有人集中交易運算。固定容量、固定期間、載明總合約價值的長期交易,是在 Slack 訊息、X 訊息與 Telegram 群組裡談成的,場外(OTC)管道亦然。Mustafa 把這比擬為大宗商品交易員在 ICE Chat 與 Bloomberg Chat 上敲交易。

公開的隨選與現貨市場及價格參考確實存在,Mustafa 也展示了當天抓取的公開 H100 參考價,但他只把這些當成起點,而非市場價格。價格可能每天、甚至更快更新,買方會四處詢價,信用狀況也會改變可提供的條件。這些隱藏因素正是他稱其為暗市場的原因。

每筆交易都是量身打造,運算只有部分可替代

微結構的核心問題在於不可替代性。規格表與格式每筆交易都不同;物料清單可能與實際交付不符,或缺料、缺貨時被迫變更,而 OEM/ODM 交期又長。同一個詞在快速談判中意思可能不同:「記憶體」可能指 VRAM、CPU 記憶體或額外儲存,指的是哪一種,會影響能跑哪些工作負載、價格與交期。買方因此必須來回確認大量細節,才有辦法比較報價。

Mustafa 提出的解法是把產品切分:找出哪些屬性可以標準化、哪些權重最高(SKU 高於一切)、哪些仍像電商一樣,價格只適用於那個特定叢集。他圍繞 GPU 小時所描繪的市場參與者如下:

| 參與者型別 | 角色 |
|---|---|
| 價格發現的個人與指數/指標供應商 | 發布可作為期貨基礎的指數與指標,依合約規格而定,尚待核準 |
| 實體撮合平臺、拍賣、聚合商 | 撮合容量;去中心化的隨選市場 |
| 流動性池供應商 | 以自家標準化合約提供池化運算 |
| 裸機轉售商與 neocloud | 銷售較大塊的容量 |
| 交易臺與經紀商 | 持有雙邊報價、快速執行、承擔並配置風險以賺取價差 |
| 交易所與衍生品平臺 | GPU 小時期貨與選擇權,供避險之用 |
| 買方使用者 | 尋求彈性合約——新晶片組的升級權、展延、回售 |
| 信用與融資供應商 | 裝置貸款方、租賃商、專業信貸機構 |

經紀商靠著知道哪裡有規格幾乎相同的報價、找到急需運算且價格彈性低的買方來賺取價差,然後負責採購、談判與營運叢集。這份營運負擔必須值得那個價差。

Token 變便宜,運算並沒有跟著變便宜

Mustafa 引用 a16z 的圖表,顯示特定能力的成本大幅下滑,並指出帳單仍取決於模型用量、容量與速度——在新一波 ChatGPT 模型推出後,這更是變動中的因素。Token 變便宜會帶動更多用量,團隊於是用同樣預算跑遠多於以往的 Token,原本太貴而不可行的應用也變得可行。但底層容量還是得建、還是得付錢。他區分了智慧本身的價格、人們想執行的任務數量,以及服務這些任務所需的硬體。

這就是傑文斯悖論(Jevons paradox)的情境:Token 與推論價格通常緊貼運算價格,但兩者脫鉤了,Token 價格跌得更深,運算價格卻依然強韌。Mustafa 把這列為幾種解釋之一——效率提升被更高的消耗量抵銷。對推論雲而言,結果是更多應用、更多 Token 被服務、市佔更大;對應用層開發者而言,則是用同一套 Token 基礎設施服務更多客戶。

上游的瓶頸是物理性的。晶片、電力、建築、電網接入與資本必須全部到位,才有一小時可用的 GPU 時間。Mustafa 引用 IEA 四月更新報告,預估全球資料中心用電將從 2025 年的 485 TWh 增至 2030 年的 915 TWh。共置(co-location)場址、資料中心營運商,以及為建設案提供融資的貸款方,都在關注電網、土地與替代能源能否跟上;這些上游成本會層層往下傳導到運算成本與用量。

預付款缺口限制了新創的成長速度

融資鏈是市場結構壓力最沉重的地方。貸款方依據已簽約營收來融資建設案,推論雲也不例外,因為他們需要還款確定性。要對一家現金流微薄、甚至尚未有營收的未上市公司做授信,關鍵就在於它能否展現規模化的已簽約營收。CoreWeave 的公開申報檔案,就是由 take-or-pay 客戶合約支撐基礎設施融資的大規模案例。

錯配在於:硬體融資想要長年期,但客戶只負擔得起、或只想要大約 36 個月,而 CoreWeave 曾表示其預付款中位數是預付 15–25%。以總合約價值 1 億美元的叢集計算,新創在服務第一個 Token 之前就得先付 1,500–2,500 萬美元——可能等於它整輪募資。

Mustafa 舉的例子:一家公司募了 4,000 萬美元,需要一份三年期、1 億美元的合約,先付 30% 預付款,剩下 1,000 萬美元營運。簽約容量呈階梯式到位,需求卻在底下平順成長,因此每到一個新叢集,公司不是得推掉客戶、等下一輪股權募資來付下一次預付款,就是用隨選容量補缺口。經濟效益的關鍵在於:為預付款融資的成本,是否低於屆時直接買隨選容量——前提是那樣的容量買得到。

flowchart TD
    A["完成股權募資"] --> B["預付叢集總合約價值的 15-25%"]
    B --> C["簽約容量階梯式增加"]
    C --> D{"需求超過簽約容量?"}
    D -->|否| E["容量閒置,現金持續消耗"]
    D -->|是| F{"銜接選項"}
    F --> G["推掉客戶,等下一輪募資"]
    F --> H["買隨選容量補缺口"]
    F --> I["向貸款方融資預付款"]
    I --> J{"融資成本低於隨選成本?"}
    J -->|是| H
    J -->|否| G

自建堆疊與租用互相競爭

Mustafa 把各種營運模式排成一個光譜。一端是自建並營運整個堆疊——硬體、場址、電力許可、組裝、管理。中間是在共置設施裡自有伺服器,由合作夥伴負責組裝與營運。另一端是透過承購合約購買既定容量,資產由供應商擁有與營運,可能不給裸機的完整 root 許可權;存取層級隨租戶與多租戶配置而異,也會影響價格。

重視實體存取、機密運算或能重新配置拓撲的企業,可能理性地選擇自建自營,接受較高成本,換取在租賃合約下必須放棄的機會成本。他粗略的「自有 vs. 租用」曲線顯示,承購價格正逼近自建並融資叢集的成本。租用理應低於自有成本,但在使用率高且變動大的情況下,直接擁有反而可能勝出。

他強調的後果是:運算採購如今決定了一家成長中公司的現金跑道,這把投資人拉了進來。取得條件與付款條件直接影響創投投資組合公司的跑道長度,因此協助投資組合公司取得合適容量,等於改善底層投資的品質。

避險可以定價風險,卻變不出一個叢集

Mustafa 說市場需要的各種結構,都是為瞭解決特定錯配:銜接容量、更有彈性的承諾、轉售權,以及對價格波動的保護。推論雲賣的是固定價格的服務,GPU 帳單卻是浮動的,因而產生價格曝險。鎖定多年容量能解決一部分問題,但除非使用率穩定,否則會帶來閒置小時的曝險。轉售閒置容量只有在真的有人買得到那些小時時才有幫助。金融避險可以對應某個參考價格,卻無法今天就交付一個叢集,也無法用現金結算保證使用率。

「有用的結構必須從企業實際擁有、且需要管理的特定風險出發。」

Mustafa 也提到正在上線的預付款融資機制,以及買方對期貨與選擇權的需求,用來對沖資產負債表上既有的風險。

政策劃定邊界,中間市場是切入點

Soumah Fernandez 簡短處理政策段落。出口管制是其中一個管道:今年一月,美國商務部將中國與澳門符合條件的 H200 等級許可審查改為附條件的逐案審查。開放權重模型把政策拉回經濟面——美國 AI 行動計畫明確鼓勵開源與開放權重 AI,並建議改善運算的金融市場,讓新創與學術界能取得大規模算力。

Mustafa 最後談機會在哪裡。持續成長的中間市場需要有能力銜接買方與供應商需求的資產負債表,還需要一些標準化:標準容量合約、共通規格、共通條款與定義。需求不符合超大規模雲端商與前沿實驗室可簽條件的公司,仍有真實的工作負載,而他們同時面臨融資問題、時機問題與規格問題。供應商想要長期承諾來合理化建設;買方想隨著波動的需求沿著衰減曲線逐漸明朗,以小塊方式增加容量,並需要一套辦法避免為還用不到的容量付錢。擁有與市場低度相關的強健資產負債表、強信用,且有能力評估交付與工作負載風險的參與者,可以填補這個缺口——這遠不只是報一個 GPU 小時的價格。他點名的這類玩家不多,並推銷 Jump 在高效能運算領域的硬體人才正是合適人選,最後以「一起把這件事建起來」作結。

未解的張力在於:Jump 提出的答案——由資本雄厚的仲介吸收時機風險與信用風險——取決於市場尚未產生的標準化,也取決於仍處於「依合約規格、待核準」狀態的期貨。中間市場會先等到標準合約,還是先等到流動性充足的避險工具,值得持續觀察;在那之前,把新創擋在三年期叢集門外的預付款算術,不會有任何改變。

來源: AI Engineer (youtube.com)
開啟原文