企業將為 AI 代理負起法律責任|Ken Wong
企業將為 AI 代理負起法律責任|Ken Wong
Databricks 的 Ken Wong 說明 Genie 的 oracle 知識如何將企業代理在 BIRD 基準測試上的準確率從約 50% 提升到約 90%,但代理行為的治理與問責機制仍未解決。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Podcast 專家音訊節目
收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情
Databricks 產品管理資深總監 Ken Wong 認為,前沿模型的智慧與真正可用的企業自動化之間那道落差,本質上是脈絡(context)問題,不是模型問題。整段訪談大部分時間都花在 Databricks 的三項 Genie 發布——自主「常駐」模式、Genie Ontology 脈絡層正式開放一般可用,以及互動式 artifact 生成——之後才轉向更難、仍未解的問題:代理治理、責任歸屬與 ROI 衡量。至於節目標題點出的責任歸屬問題,直到最後三分之一才出現,而且只是簡短的一段問答:當代理未通知人就自行採取行動,責任該由誰扛。
Wong 的立場來自企業資料基礎設施的廠商端,這集節目也因此帶有產品說明會的性質:他把 Databricks 自家的內部部署當成自主代理的主要佐證,因為這項功能太新,還來不及累積外部客戶案例。讀者讀完應該能掌握三件事:Databricks 押注的具體機制(以受治理的語意層作為代理準確度的先決條件)、Wong 用來解釋脈絡為何重要的那些數字,以及他坦承目前仍未解的問題全貌。
企業代理的真正瓶頸是脈絡,不是智慧
Wong 的核心論點是:企業卡關的地方不在模型品質。他說,最新的前沿模型「強得驚人」,但「這些模型的能力,跟它們在生產環境中實際做得到的事,中間有一道非常大的鴻溝」。原因出在脈絡。寫程式的代理,脈絡被整整齊齊地打包在一個程式碼倉庫裡;企業的知識工作卻不是這樣。資料四散各處,而「怎麼解讀這些資料」的理解,則散落在儀錶板、各自獨立的系統,以及「大家的腦袋裡」。
他用 BIRD 基準測試來佐證,這個測試衡量的是對話式分析的準確度。Wong 說,排行榜前 50 名全都提供了「Oracle knowledge」——也就是由外部明確給定、說明各詞彙代表什麼意思的對照(例如「pipeline」怎麼定義)——準確率接近 90%。沒有提供 Oracle knowledge 的參賽者,則落在 50% 左右。Wong 的解讀是:脈絡「基本上就是你能不能得到好答案的分水嶺」。
實務上的難題在於,沒有哪家企業養得起一個人,專門為每一項必備知識貼標。這些理解存在 Google Docs、Power BI 儀錶板和 Slack 討論串裡,既難以彙整,也「根本無法治理和管理」。Genie Ontology 就是 Databricks 的解法——一個橫向的脈絡層,把這些知識餵給代理。
三項 Genie 發布,其中一項才是真正的重點
Databricks 在節目播出那一週(2026-11-09 當週)宣佈了三件事。自主模式才是實質性的轉變;另外兩項則是配套的基礎設施與呈現方式。
| 發布專案 | 功能 | 狀態 |
|---|---|---|
| 自主(「常駐」)Genie | 接受一個長期目標(例如「確保我有足夠的 pipeline 能達成下季目標」),持續監控資料並據此行動,而不是像「幫我建這個儀錶板」那樣一次回答一個請求 | 全新 |
| Genie Ontology | 橫向脈絡層,讓 Genie 具備準確、有效率回答資料問題所需的語意理解;背後有與外部 SQL 顧問公司 Turing 合作跑出的新基準測試佐證 | 正式一般可用 |
| 協作/artifacts | Genie 產出會隨底層資料即時更新的互動式簡報與視覺化圖表,透過與 Genie 對話即可生成 | 能力升級 |
Wong 畫出的分界,是「請求—回應式分析」與「長期委任」之間的差別。過去的互動是一次一項任務;新的互動則是一個持續運作的任務,盯著資料、主動出手。
Databricks 自己就是第一個客戶,而這就是目前拿得出的證據
因為自主 Genie 太新,Wong 手上沒有它的外部客戶案例。他講得很直接:「我知道的第一號客戶,就是 Databricks 自己。」他點名的外部公司——Rippling(用 Genie 支撐其面向市場團隊的「growth OS」)、S&P Global、Unilever——都是 Genie 與 Ontology 的一般使用者,並非自主模式的採用案例。
內部的例子倒是很具體:
- 客戶經理用這個自主代理追蹤客戶帳戶、標記用量上的重大變化,而且它會主動準備客戶簡報,不只是發出警示。
- Wong 自己就是靠閱讀 Genie 每天為他生成的簡報,來準備這場訪談。
- 人資團隊用它即時監控回收中的問卷結果,並在結果進來時立即因應。
Wong 形容這對自己的影響:「我現在有點像有了超能力。」他說自己對產品和客戶群的掌握更敏銳,也正在清掉先前卡在待辦清單裡的工作。
用量計價讓試辦案還沒起步就卡關
Wong 指出,ROI 的不確定性是採用的頭號瓶頸,而機制很具體:這些工具採用量計價、成本不低,而價值那一端「非常模糊」,難以衡量。對財務控管嚴謹的上市公司來說,這種不確定性連原型階段的部署都會擋下來——組織不願意為了搞清楚這東西到底能做什麼,就先啟動一場預算攻防。
Databricks 的對策是先暫時把這道算式拿掉:Genie 1 與 Genie 代理對所有企業客戶免費開放至 2027 年 1 月 31 日。官方說法是,客戶可以同時體驗價值、觀察成本,不必先打一場採購仗。
治理的基本元件有了,自主行動的責任歸屬則還沒有
Wong 直言,很多問題仍未解。他認為 Databricks 在代理治理的基本元件上走得比較前面,但隨著愈來愈多知識工作被自動化,「追蹤以釐清責任的要求,只會愈來愈高」。
他自己的設定,正好示範了目前的最佳實務——依管道訂定人在迴路(human-in-the-loop)政策:
「我有一套政策,比如說內部 Slack,沒問題。你可以直接代表我傳送,只要它總是註明來自 Genie。但電子郵件,我就會說,那是我的底線。」
他把接下來的轉變,定調為代理所代表的「是誰的許可權」發生改變。今天在消費端與商業端,代理是使用者的延伸,所以由使用者負責。在企業裡,他預測不久的將來,代理會「不再代表你行動,而是以代理自身的名義行動」,屆時為代理行為負責的將是組織,而不是代理所冒充的那個個人。
被問到這究竟是軟體問題還是政策問題,Wong 說「兩者非常明確地混在一起」:廠商必須提供可觀測性與追蹤的基本元件,組織則必須想清楚,代理自主對他們的結構意味著什麼。
flowchart TD
A["代理代表使用者行動"] --> B["由使用者負責"]
B --> C["依管道訂定人在迴路政策"]
C --> D["代理自主行動,不通知人"]
D --> E["改由組織負責"]
E --> F["需要追蹤與可觀測性基本元件"]
F --> G["廠商提供工具,組織提供政策"]
路線圖是擴大觸及,加上更深的脈絡
Wong 對未來的談話只限於 Genie。兩個方向:更強的代理能力(Genie 能建立、能做更多事),以及更廣的觸及——Slack 與 Microsoft Teams(已上線,將再擴大)、行動裝置,以及最近加入既有 Mac 版陣容的 Windows 桌面應用程式。他稱貫穿其中的主軸是「脈絡與脈絡管理」,目標是對企業的理解完整到讓客戶放心,願意讓 Genie 代表他們行動。
至於企業工作的更大未來,他拒絕預測:「要推測更遠的未來非常困難。」他唯一有把握的是短期判斷——知識工作者一旦用上自主模式,就會看到他描述的那種槓桿效果。
未解的張力,就卡在節目前後兩半之間。Databricks 正在推出設計上不問人就自行行動的代理,而它自家的產品主管,卻仍堅持不讓代理在無人監督下寄出電子郵件,也坦承針對無人看管行動的追蹤與責任歸屬,整個業界都還在摸索。免費開放至 2027 年 1 月 31 日的這段期間,將產生第一批實證,同時回答 ROI 的問題,以及企業究竟願不願意賦予這項產品所預設的自主權。