跳到正文
All-In with Chamath, Jason, Sacks & Friedberg(youtube.com)· Jason Calacanis·· 5 天前品質評分58

Databricks 執行長:AGI 早已到來、企業為何落後,以及超智慧論戰

Databricks 執行長:AGI 早已到來、企業為何落後,以及超智慧論戰

重點導讀

Databricks 執行長 Ali Ghodsi 主張,AGI 實際上早已到來,但企業卡在脈絡、安全、成本與供應商鎖定等問題上;他現場示範 Genie 如何壓縮管理層的分析工作,同時認為超智慧風險目前只是空談。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

正文

Databricks 執行長 Ali Ghodsi 主張,通用人工智慧(AGI)已經到來,而真正卡住價值釋放的不是模型能力,是企業場景脈絡、資安、成本與 IP 所有權。整集節目大部分時間是螢幕分享,示範 Ghodsi 如何用一套名為 Genie 的內部 AI 系統經營 Databricks,再加上他用四項條件檢驗遞迴式自我改進(recursive self-improvement)是否真的正在發生。標題主打的超智慧風險辯論,其實只佔最後約十分鐘。

Ghodsi 於 2013 年從 UC Berkeley 的 AMPLab 共同創辦 Databricks。節目給了他足夠空間,說明這門生意背後的三個反主流押注(雲端、AI、開源);他形容公司年化營收已逼近 70 億美元,年增 70–80%。讀者讀完應該能具體想像「代理式管理」(agentic management)在一家上萬人的公司裡長什麼樣子、拿到一套可被否證的框架來判斷 RSI 主張,以及理解 Ghodsi 為何選擇在這一波 AI 轉型期間維持未上市。

Ghodsi 說 AGI 早已到來,缺的是企業場景脈絡,不是智慧

Ghodsi 的核心論點是:足以改造經濟的智慧已經存在,模型再進步也不是瓶頸。他說自己從 2025 年起就抱持這個看法,依據是 2009–2010 年前後在 Berkeley AMPLab 流傳的 AGI 定義,而且他還回頭向昔日實驗室同事確認自己沒有記錯。據他轉述,同事的回應是:定義確實達成了,但「我們把龍門搬走了」。

他說,企業今天真正拿 AI 做的事其實很窄。他每天跟客戶開會都會問:有多少人正在核心業務上跑數千個代理?答案是沒有。真正落地的只有兩種用例:一是「升級版 Google 搜尋」的聊天機器人,二是寫程式,而他在後者看到的加速也只有 20–30%。現實中的前沿,就是少數幾個代理搭配人類把關。

他列出四道依序出現的障礙,解釋這個落差從何而來,並說 Databricks 的產品正是對準這四項:

障礙哪裡斷掉Ghodsi 的說法
場景脈絡AI 不在做決策的現場某大型銀行執行長告訴他,這家銀行永遠不會錄下會議,「一百萬年都不會」,理由是法律責任。如果 AI 不在會議裡,「它就沒用」——就算是陶哲軒(Terry Tao),在會議室外也幫不上忙
資安什麼都接上,攻擊面就成倍放大一個 20 萬人的組織,暴露風險大約放大 1,000 倍;內部人員風險與駭客入侵成為最核心的恐懼
成本Token 支出成長得比營收快他認識的公司裡,沒有哪家營收能指數成長到追上 AI 成本曲線;最後財務長一定在法說會前找上門
繫結/IP用前沿實驗室的模型,風險是機密外洩進對方的下一代模型企業必須自己掌握 IP 與資料;他舉 Anthropic 為例,說它正快速推出競品,包括一款挑戰 Excel 的產品,而對手還是微軟這類合作夥伴

「如果我們能把一個 20 萬人大型組織裡的所有資訊蒐集起來……把這些脈絡全部餵給 AI,它們會把問題解得漂亮。」

關於成本,他補了一個來自自家資料的細節:Token 花得多,不一定代表產出多,因為比較簡單的查詢可以導到更便宜或開源的模型。Databricks 正好就賣這種路由的產品。

Genie 的本體論,把組織圖變成可查詢的圖譜

示範是整集最具體的內容。Genie 不是包一層皮的聊天機器人;它真正的差異化資產是一套本體論(ontology)——一張持續重建的圖譜,涵蓋人員、匯報線、email、Slack、會議逐字稿與決策、檔案、試算表與簡報。Ghodsi 說它 24 小時不間斷運作,每天早上都有背景深度分析等著他看。

示範涵蓋四個用例:

  • 員工敬業度調查分析。 超過一萬份員工回覆中,高階經營團隊拿到 88%,工作與生活平衡 60%,而「付諸行動」(回饋是否真的帶來改變)大約只有三分之一。他的財務長推測,工作生活平衡差導致行動分數低,Ghodsi 當場把問題打進去,Genie 拉出相關性,證明兩者並非因果——還舉出一位主管工作生活平衡只有 44%、行動分數卻有 77%。改按部門切分後,各部門的根因完全不同:產品管理說決策牽涉太多利害關係人,工程說工具與系統,業務說職涯發展。Ghodsi 說,這樣的分析以前要花資料團隊一週。
  • 組織設計。 問到管理幅度時,Genie 標出一條很深的匯報鏈,其中每位主管只管三到五個直屬部屬,還主動點出對工程成本的影響。
  • 工程產出。 一張約 2,000 名工程師每週交付正式程式碼的圖表,呈現 L 型分佈:一小群人遠遠高於其他人。追查後發現,頂尖那群人在跑自動化工廠,其他人沒有。把成本疊上同一張圖後又看到,產出最高的工程師不一定花最多錢。
  • 客戶會議。 問某場客戶會議開得如何,Genie 開頭就說「這場會議開得很糟」,接著列出誰說了什麼、客戶要了哪些功能——並自動送進工程的開發佇列。

Ghodsi 強調,Genie 是從本體論回答,不是即時搜尋:以調查那題為例,它引用了五個人貢獻的 19 筆既有資訊,每一筆都能追溯到作者與其資產歷史。他把這些全部開放給員工看,並把 L 曲線當北極星,目標是把整個分佈往右推。

管理變成魔球,文化偏移則是預警訊號

Calacanis 把這個轉變稱為「管理魔球」(management moneyball),Ghodsi 同意。價值在於用事實取代偵探辦案與互相指責。Calacanis 描述自己打造了一個叫「重大決策」的機器人,以他的身分加入每個 Slack 頻道、讀遍每個 Notion 頁面與 email,回報最重要的決策、誰參與、最後怎麼定案、誰最快貢獻——結果也跳出員工輔導與 PIP(績效改善計畫)的討論,他說這印證了他對 PIP 的反感。

Ghodsi 的版本是文化面的。他問 Genie:哪些主管真的在實踐 Databricks 宣示的原則——追求真相、第一原理——做法是檢視該主管整個組織的會議;他也問某位主管實際上在落實什麼文化。答案有時會跟公司文化不一致。他把這種落差當預警,而不是判決:「也許他們是對的,整個組織、包括我,才是錯的。」他也用這套方法看他個人無法親自判讀的地區,例如日本組織對比 AMEA 或 LATAM。

他點名一項明確的營運指標:減少「人類卡關點」的數量。AI 迭代很快,然後就撞上法務、財務、行銷,或某個必須點頭的平行組織;談不攏就再開一次會,接著往上呈到主管。真正拖慢公司的就是這些交接,他要把它們量測出來。

「就算 98% 的程式碼是 AI 寫的,我們也沒有 RSI。如果它把最後那 2% 也自動化,誰在乎?」

遞迴式自我改進要成真,四項條件必須同時成立

Ghodsi 的 RSI 檢驗是整集最可重複使用的框架。他的依據是 Nick Bostrom 2014 年的《超智慧》,書中把超智慧定義為能在一分鐘內完成約一千年人類思考量的系統,並提出遞迴式自我改進是快速起飛的路徑。Ghodsi 說,實驗室的信念來自看著 AI 在寫程式上變得非常強——他稱這對鑽研此道數十年的工程師是生存危機——然後推論這個迴圈已經啟動。

他說並沒有,並列出必須同時成立的四件事:

1. 訓練時間崩塌——每一代模型訓練時間大幅縮短,而且改善必須是超線性,不是一點一點累積。
2. 資源用量下降——否則你只是在把硬體放大十倍,「我們會把原子用光」。
3. 準確率全面提升——是所有任務都變好,不是隻有強化學習鎖定的那個領域(例如數學)。
4. 整件事閉合成迴圈——第 1 到第 3 項持續重複,而且每一輪更快、更便宜(三個月、一個月、兩週、一週;一億美元、五千萬、兩千五百萬)。

他說,今天這四項沒有一項成立:訓練跑得更久、需要更多人工資料清理與 RL 訓練環境的建置,而預訓練仍遵循 scaling law——要線性成長就得指數級投入算力。就算四項全中,他主張那也只是超智慧的前提,不保證會出現有意識的代理——而且沒有任何殺手機器人會來執行什麼。

flowchart TD
    A["條件 1:下一代模型訓練快得多,且為超線性"] --> D["四項條件同時成立"]
    B["條件 2:每次訓練用的算力與資源更少"] --> D
    C["條件 3:準確率全面提升,不只限於 RL 領域"] --> D
    E["條件 4:第 1 至 3 項在閉合迴圈中重複,每輪更快更便宜"] --> D
    D --> F["超智慧的前提條件"]
    F --> G["仍不保證會出現有意識的代理"]

資安風險真實且不對稱,解法是縮小漏洞存量

Ghodsi 把資安與超智慧分開談,並稱資安才是真正的近程風險。他介紹 Databricks 的 Lakewatch 產品,建在同一套資料上,用自動化代理偵測入侵、監控客戶的代理。

Calacanis 提出算力不對稱的論點:防守方算力遠多於攻擊方,白帽應該先找到漏洞。Ghodsi 接受這個邏輯,但用結構性不對稱反駁——攻擊方可以派出數千個代理,只要一個成功;防守方則每一次都必須正確。他搬出 911 的比喻:一次成功就足以說明一切。

他的解法是:漏洞是有限的存量,不是無窮的流量。現在新程式碼上線都會掃描,所以未來 12 個月破紀錄的程式碼產出,安全性應該比過去更高。剩下的是老舊程式碼,他說可以重寫——已有 80–90% 在進行中——或用不碰原始碼的影子修補(shadow patching)保護起來。他主張,存量清乾淨之後,漏洞數量最後可能比過去還低。他也潑了最近一波「聯網家電被駭」報導冷水:冰箱用預設管理員密碼,那不叫超智慧。

Databricks 維持未上市,避開 AI 轉型期的股價雲霄飛車

Ghodsi 證實了規模,但不願給時間表:公司「70 億美元以上」、成長 70–80%,而 2015 年營收才 150 萬美元。他說他希望成長率遠高於 100%。

他把公開市場的取捨講得很白。好處:取得資本、每季一次的說故事大會等於持續行銷、不必每年跑一次老股收購(tender offer)——那是很吃重的財務工程,他粗略估計已募了 200–300 億美元,不過他強調員工從來沒把預留的額度用完。壞處:股價由市場情緒決定,股價一跌,員工等於被減薪。他轉述留才對話:「你答應我一百萬美元……我現在看到 20 萬,我要走了」——三個月後營收加速、股價反彈,人又留下。他想避開這個迴圈,還說有執行長打電話給他,為自己解釋不了的股價波動而沮喪。

流動性並沒有卡住併購:他說 Databricks 做過數十億美元的收購,因為賣方知道老股收購機制能提供流動性。以這樣的成長數字,多數員工只會賣掉一小部分持股。

「我們會上市。我們一定會上市,但現在我認為在 AI 這段轉型期,波動實在太大了。」

有效利他與減速陣營出於真誠,但 10% 滅絕估計接近零

Calacanis 請 Ghodsi 拆解與 Berkeley 關係密切的有效利他(EA)與減速陣營,並提到 Dario Amodei 在巡迴宣傳中聲稱癌症與阿茲海默症可在十年內消失——Calacanis 說,對現在正與這些疾病搏鬥的家庭而言,這是虛假的希望。

Ghodsi 對動機表示理解:「在他們自己的故事裡,他們是英雄」,而且在這些東西都還不存在時讀 Bostrom,確實令人害怕。但他說推論鏈有斷點——能力快速上升加上看得到的網攻,並不等於書裡那種超智慧。他把滅絕風險放在接近零,說 10% 這個數字近乎荒謬,但也指出:有錢、有頭銜的人講出一個具體數字,大眾就會覺得可信。他把這個陣營世界觀的一部分歸因於科幻,以及那些懂模型但不懂經濟的研究者。

他對 AI 在醫療上的助益,比對時間表樂觀。Databricks 與 Regeneron 合作,其研究人員用這個平臺找出導致慢性肝病的基因體,並據此開發藥物。他描述一個與默克(Merck)共同訓練的較新模型 Teddy(transformer 驅動的藥物探索),它的下一個 Token 不是英文,而是基因調控網路——讓模型能區分因果性基因與反應性基因,避免藥物開發鎖定錯的目標。他也舉 Crisis Text Line 用 Databricks 與 LLM 偵測兒童自傷意圖,以及 Zipline 的無人機配送跑在這個平臺上。至於十年內治癒癌症,他不置可否:人體試驗快不得,可能是十年、三十年,也可能是五十年。

他自己對填補企業場景脈絡落差的時間表是 10–15 年,對比實驗室的 6–24 個月。他說 GDP 會動得很慢。

未解的張力在於,Ghodsi 的兩條時間線指向相反方向。如果企業採用要花十年——因為銀行不願錄會議、財務長受不了那條成本曲線——那麼他把 Databricks 近期營收加速歸因於代理驅動的查詢,就只是早期採用者的窄眾現象;而他口中的「大 alpha」,也只有願意為自家會議建一套本體論的公司拿得到。真正可被否證、值得盯的,是他的四條件 RSI 檢驗:如果訓練開始變快變便宜,同時跨不相關任務的準確率也全面提升,那麼他的框架會比他的生意更早崩解。

讀者討論

理性交流 · 即時討論