跳到正文
The Cognitive Revolution(youtube.com)· Nathan Labenz·· 11 天前品質評分58

會一起思考的代理:Cisco 的 Vijoy Pandey 談語意對齊、Scope、Accord 與 Concord

會一起思考的代理:Cisco 的 Vijoy Pandey 談語意對齊、Scope、Accord 與 Concord

重點導讀

Cisco 的 Vijoy Pandey 指出,互聯的多代理系統仍會因語意錯位而失敗——ChatDev 的會話 100% 出現語意失誤——因此他提出 Scope、Accord 與 Concord 三項協定,在 MCP/A2A 之上對齊意圖、協調工作並加以驗證。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

正文

Vijoy Pandey 是 Cisco 旗下 Outshift 的資深副總暨總經理,他主張:把代理(agent)串接起來,不等於讓它們一起思考;多代理系統(multi-agent system)往往在語意層悄悄失效,即使所有儀錶板都顯示綠燈。在這場與主持人 Nathan Labenz 的 90 分鐘對談中,Pandey 大部分時間談的是 Cisco 最新開源的幾項工具——用於認知可觀測性的 Scope、用於工作前意圖對齊的 Accord、用於執行中協調的 Concord——以及這些工具背後的企業部署案例,包括一套瑞士電信(Swisscom)的資料中心組態系統,將五個代理與一份網路的正式模型搭配運作。本集也談到模型與執行框架(harness)的解耦、一則關於夫妻倆的代理訂不到晚餐位子的個人代理軼事,以及 Pandey 認為代理之間以潛空間(latent space)溝通勢不可免的看法;標題用「一起思考」來概括算合理,但實質內容更接近失效量測與協定設計,而非哲學思辨。

Pandey 在這個狹窄題目上是可信的證人,因為 Outshift 是 Cisco 的育成部門,已與具名夥伴實際交付多代理系統,而不只是做展示。Labenz 自己在節目上描述了一套個人用的雙機代理配置,並追問這些協定究竟在哪裡真正發揮作用。讀者讀完應該能掌握 Pandey 引用的具體失效統計、他提出的架構,並清楚分辨哪些說法是實測結果、哪些是他的預測。

讓多代理系統崩潰的是語意錯位,而非停機

Pandey 的核心實證主張是:代理可以完全「線上」,卻什麼都產不出來。在一個簡單的消費端用例——預訂旅遊行程——他的團隊發現,系統依傳統定義有 66% 線上(代理在跑、儀錶板全綠),但任務完成率為 0%,而且在目標上完全錯位。他稱之為「後果震天價響的無聲失效」。

他從五代理系統部署中回報的劣化曲線,是本集最值得引用的數字組。每一項額外的認知失效是複合疊加,而非單純相加:

認知失效數回報的系統準確率
099%
198%
281%
316%

依 Pandey 的說法,三個語意錯位——「不算多」——就足以讓多代理系統接近隨機亂猜。他也表示,團隊檢視了多代理軟體開發環境 ChatDev 的公開追蹤紀錄,發現100% 的工作階段都含有語意或認知錯位的失效。這些都是 Pandey 的數字,節目上並未公佈方法論;請把它們當成廠商自行回報的資料。

他的失效分類法與人類團隊的失能如出一轍。工作開始前,代理對目標或對詞彙的定義就各說各話——他舉的例子是業務代理向工程團隊轉達「10 萬名使用者」,工程端理解成總使用者數,但客戶指的其實是同時上線人數。工作進行中,大家對「交付日」的定義分歧(是 alpha、beta、首位客戶可用,還是合約簽署?)。工作結束後,沒有人拿產出去對照整體目標,只確認各代理是否達到自己的區域性最佳。Pandey 的說法是:「連通不等於認知。」

Scope、Accord、Concord 分別鎖定代理工作的前、中、後

Cisco 開源三個專案,各自對應協作的一個階段;Pandey 把它們定位成架在既有標準之上,而非取代既有標準。

flowchart TD
    A["Scope — 建構於 OpenTelemetry 追蹤之上的認知可觀測性"] --> B["偵測語意漂移與無聲失效"]
    B --> C["Accord — 工作前的意圖與詞彙對齊"]
    B --> D["Concord — 工作進行中的協調與協商"]
    C --> E["代理朝共同目標推進工作"]
    D --> E
    E --> F["對照整體目標進行驗證(尚未發布)"]
    F --> A
  • Scope 在標準 OpenTelemetry 追蹤之上建立語意層,因此可直接接入團隊既有的環境。Pandey 用車道偏移修正來比喻:它監看認知漂移,並觸發另外兩個協定。他的說法是「看不見的東西就修不好」。
  • Accord 負責工作前的目標與術語對齊——也就是「10 萬名使用者」那類問題。
  • Concord 負責執行中的協調與協商,應付需求變動、功能蔓延,以及交期被重新解讀的情況。
  • 工作後驗證的第三個協定仍在開發中,尚未發布。

Accord 與 Concord 都以技能(skill)形式提供,可直接放進 Claude Code、Codex、Muse、OpenClaw、Hermes 等執行框架,或透過 Agent Bridge 使用——後者是架在 A2A 與 MCP 之上的開源專案。Pandey 強調,重點不是改變代理講話的方式,而是在它們偏離時把它們推回正軌。

Swisscom 部署:五個代理搭配網路的正式模型

最具代表性的公開案例是 Swisscom。這家電信業者希望在硬體與軟體遷移期間做到零失誤的組態變更。Pandey 把這套架構描述為神經符號(neurosymbolic):一份資料中心環境的正式符號模型,把不可違反的規則寫死;五個代理則在其上探索各種可能的組態。他比喻成跟一個知道所有可能回棋的系統下棋——代理端負責搜尋,正式模型端負責禁止。

Pandey 說,Swisscom 刻意把範圍限定在資料中心而非行動網路,因為資料中心出事時本身就有備援。他給企業的通則是:「挑一個理解起來還算單純、範圍還算收斂的用例。」

多代理、多廠商架構的更大論點在於:有價值的企業問題往往沒有單一負責人。在一筆數百萬美元的生意裡,業務代理(他點名 Salesforce)、法務(Harvey)、財務、產品與工程(Claude、Codex)、行銷(Jasper)各自握有問題的一部分,再由總經理或主管代理擔任驗證者。Pandey 說:「價值其實就在交接處」——一個估算可能變成承諾,承諾可能變成合約文字,行銷再把它變成對外宣稱。Cisco 也與 ServiceNow、SoftServe、Webex 部署過多代理系統,並將 A2A(Agent2Agent)協定捐給 Linux 基金會。

模型、執行框架與代理身分正在解耦,而這正是重點

Pandey 認為,產業正在把過去綁在一起的三件事拆開:模型、用來加速或設護欄的執行框架,以及代理的身分與記憶。他指出,前沿實驗室自己也在解耦——現在可以把 OpenAI 的執行框架搭配開源模型——並表示 Cisco 內部也在做同樣的事。

他自己的配置就是例子。他的代理叫 Arnold Lane(取自 Pink Floyd 的歌),他太太的叫 Lyra Belacqua(出自《黃金羅盤》)。Arnold 的身分、人格與記憶是不可變的,且已遷移過 OpenClaw、Hermes、Muse、Dots、Grok 以及 Cisco 內部的員工代理,也換過從 Gemini 到 Haiku 再到 GPT 系列等模型,部分基於成本考量。身分可以跨越整個技術堆疊存活。

Labenz 描述自己的分工:筆電上放高存取權、低自主性的代理,當成自己的延伸;另一臺 Mac Mini 上放低存取權、高自主性的代理,處理長時間專案。Pandey 對這種雙機折衷不以為然——「你為什麼要二選一?」——他認為終局會是單一代理、擁有完整存取權,只在遇到無法從過去決策帳本中解決的判斷問題時才回頭問人。

最能具體說明落差的就是那頓晚餐訂位。Arnold 和 Lyra 無法自主訂到兩週後的位子。Pandey 列出三個卡點:模型端到端的能耐還不夠(它們用的是免費方案);執行框架每次寄信前都要問一次許可權(「如果我每次都得給你授權,那我自己做還比較快」);兩個代理無法在他和太太的餐廳偏好之間談出折衷。「如果它們連我們在簡單吃頓飯這件事上的個性都代表不了,那意義何在?」

判斷暫時仍由人負責;守護天使與認知加速器是下一步

Pandey 預期在可預見的未來,人仍會在迴圈之上(on the loop)而非只在迴圈之中,負責做判斷,因為「資料並不充分,而且永遠不會充分」。他借用歸功於 Raj Reddy 的分類:AI 系統不是守護天使(guardian angel,GAT),把你守在護欄之內;就是認知加速器(cognitive accelerator,COG),把你已經會做的事做得更快。Cisco 兩者都在打造,統稱「認知引擎」。他說,一個能從過去決策學習的判斷代理,最終可能變成 COG,但這項工作還沒開始。

至於 Harrari 的乳牛比喻——人類可能到頭來被自己無法理解的 AI 結構所治理,就像乳牛被市場治理一樣——Pandey 顯得相當坦然。他指出,自己本來就不懂高頻交易,也不懂法規的細節;領域專家之所以存在,正是因為沒有人能理解每一個系統。在他的框架裡,每個代理在更大的多代理系統中,都同時是乳牛也是人;而緩解之道是一套決策紀錄系統:像 Scope 那樣的可觀測性,把每個動作、決策與工具呼叫都記錄下來,再由 GAT 與 COG 把子系統拉回正軌。

代理之間的潛空間溝通終將到來,但要用製藥業的謹慎態度引入

Pandey 對代理以高維內部狀態、而非自然語言交換資訊依然興致高昂,稱之為「勢不可免」,且對藥物研發、新材料、物流、財務建模與氣象模擬都是必要。他沒有直接回應 OpenAI 事件後外界對監控不可讀通道的疑慮;他主張的是用引進新藥的方式引進潛空間協定——測試、金絲雀部署、不走捷徑。在他看來,護欄層是讓加速變安全的關鍵,而不是該用來阻擋加速的東西。

規模化的論證,建立在運算史上三軸的類比

被問到多代理系統是否存在規模化定律——Labenz 提到有種說法是加速幅度與代理數量的平方根成正比——Pandey 不願為任何特定定律背書,而是把智慧對應到運算長久以來使用的三個軸:演算法規模化(效率)、垂直規模化(更好的個別模型)、水平規模化(把節點串成系統)。他指出,雲端就是水平規模化的經典範例。他的主張是:少了「認知網際網路」,水平軸就閒置未用。

他把這個類比延伸到人類歷史:個體智慧演化了數十萬年,但創新一直各自孤立,直到大約七萬年前語言出現,才促成共享意圖、跨世代共享知識與集體推理。他說,代理現在還處於語言出現前的階段——個個有能力、彼此相連,卻沒有集體推理。

兩個值得追蹤的未解問題

本簡報的數字都是廠商自行回報,99% 掉到 16% 那條劣化曲線背後的方法論並未公開;獨立重現會比任何單一部署案例都更重要。尚未發布的工作後驗證協定,是 Pandey 所述架構中缺漏的第三條腿,它的設計將揭示 Cisco 打算把驗證做成 Swisscom 那種正式方法層,還是又一個以 LLM 為基礎的裁判。晚餐訂位測試則是值得觀察的實用基準:它規模小、很個人,而且連一個已把五代理系統送進生產環境的團隊,至今都還解不了。

來源: The Cognitive Revolution (youtube.com)
開啟原文

讀者討論

理性交流 · 即時討論