真正的企業級 AI 代理還要等五年 | Aghi Marietti
真正的企業級 AI 代理還要等五年 | Aghi Marietti
Kong 執行長 Aghi Marietti 認為,企業級代理式 AI(agentic AI)卡關的原因在於工具呼叫(tool calling)與連線成本,而非智慧能力,因此真正的《財星》500 大企業級代理大約還要五年才會出現,屆時 80% 的推論將轉向成本更低的模型路由。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Podcast 專家音訊節目
收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情
Kong 共同創辦人暨執行長 Aghi Marietti 認為,大型企業至今幾乎完全仰賴封閉式前沿模型運作,要真正實現端到端的代理工作流程(agentic workflow),大約還要五年。本集節目掛在標題上的「代理時程」主張其實只佔了幾分鐘;對話大部分時間都在談 Kong 的 AI 閘道資料揭示了哪些模型使用狀況、為什麼開源權重模型的採用率在大型企業與長尾市場之間出現劇烈落差,以及究竟是什麼卡住了代理部署。
Marietti 的觀察位置是多數分析師沒有的:Kong 替數百家企業客戶代理模型流量,讓他能即時看到哪些模型正在被呼叫、每個模型花了多少錢。以下是他對這些資料的描述與他的預測,並非經獨立查證的數字。讀者讀完應該能掌握開源與封閉之爭背後的具體數字、代理為何停滯的「連結性」論點,以及 Marietti 用來判斷 AI 持久護城河落點何在的框架。
開源權重模型在大型企業的 Token 流量中佔不到 5%
Marietti 把市場拆成兩個經常被混為一談的故事。在長尾市場——中小企業、路由器使用者,以及他點名的 OpenRouter、Vercel Cloud 等小型供應商——開源權重模型的使用率衝到 20–30%。但在 Kong 最大的企業客群中,過去九個月採用率雖有成長,佔比依然極低:Token 流量不到 5%。他把這個落差歸因於企業對安全、法遵與治理的謹慎,而非模型品質。
要讀懂這個百分比,得先理解企業流量的規模。Marietti 表示,Kong 代理的流量換算年化已逼近一 quadrillion 顆 Token,而中型企業的開源權重使用率明顯高於最大客群。
| 客群 | 開源權重佔 Token 流量比重 | Marietti 的解釋 |
|---|---|---|
| 最大企業客群 | 不到 5% | 對安全、法遵、治理有顧慮 |
| 中型企業 | 比最大客群「多很多」,未給具體數字 | 治理程度較低 |
| 長尾(中小企業、路由器、小型供應商) | 20–30% | 「永遠挑最便宜的智慧來把事情做完」 |
「長尾永遠會挑最便宜的智慧來把事情做完,但在很大、很大、很大的企業裡,大部分的支出還是流向那幾家老面孔,不管是 Anthropic 還是 OpenAI。」
他把長尾形容為市場上比較吵的那一端——數百萬名開發者製造出顯而易見的討論聲量——而企業則是「刻意低調得多」,卻消耗了極龐大的 Token 量。
企業跑的是數十個模型,不是三個
本集最引人注目的資料:在 Kong 的全球兩千大客戶群中,有 61% 的活躍企業行為涉及同時執行多個模型。Marietti 說,外界常以為企業只用四、五個模型,這是錯的——有些企業用到數百個,不過往往是同一家供應商的不同版本。典型數量是 20 到 30 種模型。
他由此丟擲一個開放問題:企業是否會變成自己的「迷你實驗室」,用專有資料對模型做後訓練(post-training)。他拿二十年前完全沒有工程部門、後來卻把工程能力內部化的企業來類比,並點出誘因——握有專有資料的公司,未必願意把資料交給一個日後可能與自己競爭的模型供應商。
至於 Kong 閘道流量中各家模型的具體佔比,Marietti 給出以下數字:
| 模型 | Token 佔比 | 支出佔比 |
|---|---|---|
| Claude Sonnet 5 | 49% | 32% |
他補充,GPT-4.1 與 5.1 仍居前段,而 Claude Opus「從八月(2026 年 8 月)以來出現得越來越頻繁」。
卡住代理的是連結性,不是智慧
Marietti 對代理採用率的核心論點是:智慧已不再是瓶頸。他引用本集播出前約一個月(2026 年 10 月左右)的 Cursor 研究,該研究發現 21% 的推論成本花在工具呼叫(tool calling)上——也就是決定要呼叫哪個工具或 MCP 伺服器。他說,一家企業就是一堆工作流程的集合,而找出這些流程並加以自動化,是連結性問題,不是智慧問題。
他用部門各自為政的現象說明。人資在 Workday 之上做了一個代理,就自稱代理化;財務在 NetSuite 上如法炮製;招募則用供應商提供的代理。這些都不是橫跨業務、行銷、財務的端到端自動化。缺的那一層,是一套經過梳理、可被發現的神經系統——統一的資料儲存、API、可程式化的端點——再加上存取控管,畢竟一個由工程師打造、卻握有薪資系統許可權的代理,可能造成實質損害。
「最大的問題在連結性。企業裡這套神經系統沒有被梳理出來,無法存取、無法探索、也找不到。」
他的時程判斷:中小企業與中型市場走得較快,但治理嚴密的大型企業會拖很久——大約要五年,才有人能指著一家真正代理化的《財星》五百大企業說「就是它」。
Token 變便宜不會讓 AI 帳單崩盤,支出只是沿著階梯往下移
Marietti 預期 Anthropic 對新模型降價會創造更多需求,而不是讓帳單縮水。他對企業推論的想像是一座階梯:最貴的前沿智慧用於關鍵任務——他舉的例子是一個要進到生產程式碼、SLA 達 99.99% 的 pull request——較便宜的模型則處理日常任務。他預測企業的智慧消耗大約 80% 會落在便宜那一側,剩下 20% 留給前沿模型,其中一部分前沿模型的工作是審查便宜模型產出的成果。
實務上的結果是,模型選擇已成為沿著速度、品質、成本三個軸線做的策略決策,不再像一年前(2025 年底左右)那樣,企業預設就用最聰明的模型。正因為這麼複雜,模型路由器才會不斷增生。
路由器會被商品化,路由的智慧不會
Marietti 把路由拆成兩層。統計式路由——針對成本、速度或品質做最佳化——已經商品化,而且會更嚴重。真正保得住價值的是它上面那一層:當某家推論供應商掛掉時的備援切換,以及靠累積的上下文與 harness 而非純統計來改進的路由。他預期路由器會透過內嵌自家模型而變得更「聰明」,不再只是統計系統。
他也點出路由之外的其他效率手法,包括提示壓縮(prompt compression),這些都是企業追求「每顆 Token 換更多智慧」的途徑。
品牌、網路效應與專有資料才是持久護城河
被問到若程式碼這一層價值歸零、還有什麼能存活,Marietti 提出三部分框架。第一是品牌:他的類比是可口可樂——味道誰都能模仿,但要重新改寫已經深植十億人腦中的定位,極其困難。他認為 OpenAI 與 Anthropic 已佔住那個位置,Anthropic 是靠 Claude Code 在 harness 與消費端站穩,而 Gemini 等對手則面臨「追趕上的疲乏」。
第二是網路效應——一個難以撼動的市集或社群網路。第三是別人無法用來訓練的專有資料。
他另外補了一個犀利的觀察,指出智慧在哪裡稀薄:寫程式方面很充足,但高可用系統與基礎設施方面則否,因為那裡沒有訓練資料——只有靜態程式碼與語法。
flowchart TD
A["若程式碼歸零,還有什麼能存活"] --> B["品牌"]
A --> C["網路效應"]
A --> D["專有資料"]
B --> B1["可口可樂類比,定位深植十億人腦中"]
C --> C1["市集或社群網路,難以撼動"]
D --> D1["企業資料,沒有模型能拿來訓練"]
封閉式前沿模型的成長速度,仍超出懷疑者預期
Marietti 的一年期預測與市場共識相反,令人意外:封閉式前沿模型仍將帶動並挹注大量營收,成長率會非常驚人。他預期日後回頭看,會對它們在開源權重替代方案如此強勢之下還能成長這麼快感到吃驚。他承認開源權重也會成長,但不接受它會全面取代一切。
這套推理扣回他的護城河框架——品牌定位有黏著性,只要供應商持續維持,企業就會繼續買那個用了十年的「已被定位」的解決方案。他也預期模型供應商會往堆疊上層移動,針對特定垂直應用在自己的模型周圍築起護城河。
綜合分析
本集各段落其實串成同一個論證:企業 AI 由信任與連結性主導,而非模型品質或價格。這個單一前提解釋了大型企業開源權重佔比不到 5%、20 到 30 種模型的組合、五年的代理時程,以及「即使 Token 價格下跌、封閉式前沿模型仍持續成長」的預測。值得持續追蹤的張力,是 Marietti 自己留下的開放問題——握有專有資料的企業,最終是否會後訓練自家模型、變成迷你實驗室。若這件事大規模發生,就會從內部侵蝕他描述的品牌護城河,而他引用的閘道資料會是最先顯現的地方。另外要注意,本文所有數字都是 Kong 對自家代理流量的觀察,先天就偏向大型、治理嚴密的客戶。