跳到正文
MTS(youtube.com)· Theo·· 8 天前品質評分58

開源模型幾個月內將追上前沿水準|Nick Khami

開源模型幾個月內將追上前沿水準|Nick Khami

重點導讀

Morph 的 Nick Khami 認為新興雲端(neo cloud)的崩盤是真實存在的,因為推論需求有限,GPU 小時的經濟效益撐不起來;不過,可驗證推論(verifiable inference)有機會讓開源模型在逼近前沿水準時具備競爭力。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

正文

Morph 推論服務的技術團隊成員 Nick Khami 主張,開源模型將在數月內達到當今前沿模型的能力水準;這使得「可驗證推論」(verifiable inference)——以密碼學證明某個輸出究竟由哪個模型產生——變得迫切。本集 13 分鐘的節目大部分時間都花在這個論點,以及推論算力的經濟學上:為什麼 GPU 容量不能單純當成 Token 來賣、為什麼 neocloud 的信用風險可能被高估,以及 KV 快取儲存如何形塑 coding agent 的基礎設施。標題所稱的開源模型主張,在整段對話中只佔一句話;主體其實是市場結構的討論。

Khami 是從供給側發言:Morph 在 OpenRouter 上以及直接對客戶提供 GLM、Kimi 與 DeepSeek 的推論服務,並在錄音當天推出 Morph Ultra——每月 200 美元的 coding 訂閱方案。讀者讀完應該能帶走 Khami 關於 GPU 小時變現的具體數字、他對「Token 交易市場為何需要可驗證性才能成為可互換商品」的說法,以及清楚辨識出他的預測中哪些只是斷言、而非已證實的事實。

可驗證推論讓模型取用變成信任問題

Anthropic 在前一週(2026-11-14 的前一週)宣佈在推論的形式化驗證上取得進展,利用密碼學讓開發者能在不揭露模型權重的情況下,可證明地確認某個輸出是由哪個模型產生。Khami 把這稱為「智慧證明」(proof of intelligence),類比加密貨幣的 proof of work 與 proof of stake,並預期許多工最終都會以此為憑據。

他的論點是:今天的模型市場建立在信任之上——你向 Anthropic 要 Opus,就假設自己拿到的是 Opus。在閉源模型領先時,這還行得通。一旦開源模型逼近前沿能力——他預期「在接下來幾個月內」就會發生——那麼打出「DeepSeek,牌價打六折」的賣家就難以稽核。買家分不出那是真正的 DeepSeek、量化版 DeepSeek,還是 KV 快取壓縮得更兇的版本,而這兩者都會帶來品質落差。可驗證推論能讓買家確認自己拿到的東西與賣家所稱一致。

Khami 由此推導出的下游效應是市場結構:可驗證推論讓 Token 交易市場更容易建立,也讓推論「作為產品更具可互換性」。當 ZK 證明可以取代聲譽時,品牌信任——Base 10 或 Morph 長期建立的那種——就沒那麼重要了。

他用 Alice 與 Bob 的比喻解釋 ZK SNARK:Alice 聲稱自己養了 10 條金魚,但不肯拿出來給人看;Bob 給她一道只有靠那些金魚才解得開的方程式;她解出來,就證明她確實握有必要的資訊。套用到推論上,只有真正在跑正版 DeepSeek 的一方,才可能為某個特定輸出產生有效證明。

「你想用牌價六折買,但你要怎麼知道那是真的 DeepSeek、量化的 DeepSeek,還是——你知道的——KV 快取被壓得特別兇的版本?」

推論需求呈指數成長,但離無限還很遠

Khami 反駁「算力永遠可以當推論賣掉」的假設。依他估計,開源與閉源模型的需求每兩到三週就翻一倍——是指數成長——但目前已部署的算力絕大多數用於訓練,而非推論。若全數重新分配給推論,算力反而會過剩。

具體例證是 OpenRouter:他說它「最多大概 16 個 GB300 機櫃」在跑,而全球可用的機櫃數以萬計。一座為了賣 Token 而建的 20MW 資料中心,全球能找到有意願向其採購的公司不到一千家。1GW 的算力不可能當推論賣掉;大部分必須賣給前沿實驗室做訓練,按 GPU 小時計價。

專案Khami 的數字
模型需求成長每 2–3 週翻倍(開源與閉源皆然)
OpenRouter 規模最多約 16 個 GB300 機櫃
全球可用機櫃數以萬計
20MW 賣 Token 資料中心的買家全球不到 1,000 家
GB300 上的 DeepSeek 變現每 GPU 小時 34 美元
GB300 實際租金每小時 12–15 美元,有時更低

34 美元對上 12–15 美元的落差,是他的核心證據。若每小時 34 美元的需求真是無限,GPU 就會以那個價格成交。但並沒有,因為要觸及那些需求並不容易——「你沒辦法只是開一臺 GPU,然後對面就自動冒出一個客戶。」他的結論是:生態系需要更多人去打造消耗 Token 的軟體與應用,而不是更多裸算力。

Neocloud 信用風暴沒有債市反映得那麼嚴重

主持人丟擲 neocloud 崩盤的敘事:neocloud 債券殖利率上升、為擴充算力而借錢越來越難、對 NVIDIA 這類投資級靠山的依賴加深,以及信用市場緊縮波及 neocloud 與新創的風險。Khami 的回答——「達拉斯(按:影射 Dallas Buyers Club 式的末日情境)要來了嗎?」——基本上是不會,而他的依據是前面那套需求面算術,不是信用環境。

他的推理是:「開一家公司、舉債加上創投資金、蓋一座 GPU 叢集,然後穩定賺錢」這個前提「並不像大家以為的那麼成立」。真正的限制不只是融資,而是沒有足夠的推論買家,能以有利可圖的價格吸收新增容量。Morph 自己在蓋第一批叢集時也正變成「我們自己的 neocloud」,這讓他從供給側看到同一個問題。

Morph Ultra 押注年輕開發者市場的便宜 coding 訂閱

Morph 在錄音當天推出 Morph Ultra:每月 200 美元的 coding 訂閱,使用量倍數與 Anthropic 或 OpenAI 方案所提供的相近。Khami 說從當天早上開賣以來已賣出約 80 份訂閱,他稱這是很快的速度。

他把這個產品定位為使命驅動——服務想用 coding 訂閱方案來打造東西的較年輕公司,精神上與 OpenAI、Anthropic 自家的訂閱產品一致——並舉 Morph 提供 DeepSeek 服務為例,說明它如何解鎖新的使用場景。策略邏輯回到他的需求論述:瓶頸在應用開發者,所以補貼他們的 Token 消耗是在做大市場,而不只是搶市佔。

KV 快取儲存才是真正讓 coding agent 差異化的基礎設施

Khami 對訓練叢集與推論叢集做了鮮明的基礎設施區分。訓練叢集只需要足夠支撐訓練跑的儲存空間。而服務長時間 coding agent 工作階段的推論叢集,則需要額外許多儲存節點,因為前幾輪的輸出會以 KV 快取儲存,以免重複計算。

儲存越多,快取就能保留越久,這「對 coding agent 有獨特的賦能效果」,對任何以長工作階段跑這些模型的人也是如此。Morph 正以此為核心設計第一批叢集——加裝的儲存節點遠多於訓練用途所需。這是一個具體、可查核的主張,說明推論資本支出流向何處,也解釋了為什麼推論供應商的叢集長得跟訓練業者的不一樣。

本集留下的未解問題

有兩條線彼此拉扯。Khami 預測開源模型數月內就會達到前沿能力,而這正是讓可驗證推論有價值的條件——然而他所描述的驗證技術還停留在發布階段,他也沒給出正式部署的時間表。如果開源模型先到,他所說的信任缺口就會在解方出現之前先開啟。另外,他主張推論需求離吸收現有算力還差得遠,這與他自己估計需求每兩到三週翻倍,放在一起略顯矛盾;兩者要同時成立,前提是訓練佔算力的比重極高且轉換極慢——這個比例他只有斷言,沒有量化。值得盯的數字是 GB300 租金對上每小時 34 美元的 DeepSeek 基準,以及 Morph Ultra 開賣首日的速度能否維持。

來源: MTS (youtube.com)
開啟原文

讀者討論

理性交流 · 即時討論