為何 AI 駭客讓程式碼測試過時?| &Truth
為何 AI 駭客讓程式碼測試過時?| &Truth
Anduril 創辦人 Chris Hsu 與 Clark Barrett 主張,面對以 AI 速度行動的攻擊者,需要的是形式驗證(formal verification)而非測試;他們認為 AI 結合數十年的自動化推理研究,可讓證明成本降低、速度提升約 100 倍。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Podcast 專家音訊節目
收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情
&Truth 共同創辦人暨共同執行長 Clark Barrett 與 Chris Hsu 主張:在 AI 讓攻擊者能以超人速度找出並利用漏洞的時代,「99% 正確」的程式碼已站不住腳,唯有形式化、可用數學檢驗的驗證方法,才能補上最後一哩路。整段對談主要圍繞這套驗證怎麼運作、又怎麼壓低成本:把程式碼轉譯成數學、以 Lean 作為可信核心、倚重數十年的自動推理研究而非單純堆 AI Token,並從開源 C 基礎設施切入。標題所謂「AI 駭客讓測試過時」其實只是鋪陳——本集大半內容談的是驗證技術、成本經濟學,以及經由開源、企業與監管機構推進的上市路徑。
Barrett 是形式化方法研究者,自稱投入自動推理領域已 30 年;Hsu 則負責商業與策略論述。依主持人介紹,&Truth 約在本集播出前一個月(2026 年 10 月)結束隱身模式,募資 7,000 萬美元。讀者讀完應能清楚掌握三件事:技術主張(程式碼可轉為數學並加以證明)、成本主張(AI 讓成本與速度各改善約 100 倍,&Truth 的自動化再各推進 100 倍,且只有 5–10% 的工作依賴 AI),以及策略押注(先透過公開的「Atlas」守住開源 C 生態,再向企業銷售,並為監管採用預作佈局)。
核心主張:「夠好」與「證明」在知識論上是兩回事
Hsu 的論點是:問題不在於 99% 正確的程式碼有錯,而在於「信心」與「希望」和數學保證根本屬於不同範疇。他表示,在 AI 時代,AI 同時加速了寫程式的生產力與攻擊方——「AI 現在有能力以超人速度找出缺陷」——因此測試、修補、掃描再怎麼有效,都回答不了「你什麼時候才算做完」這個問題。
Barrett 則謹慎地不否定既有工具鏈。測試、掃描、修補、執行模型都是「很好的做法」,而且互補;他要主張的只是這些方法到不了「最後一哩路,也就是分佈尾端那一段」。用他的話說,這些方法都回答不了同一個問題:「你怎麼知道自己做完了?」
「99% 夠好、信心、希望,在知識論上與數學保證和 100% 是不同的事。」——Chris Hsu
Barrett 引用的風險既具體又新近:他提到「昨天」有一份報導指出 178 家企業遭駭、銀行軟體因程式錯誤而停擺、Microsoft Outlook 故障、航班停飛。他把這些事件連結到「黑色十月」(black October,2026 年 10 月)——主持人說這個詞是為了描述 AI 能力攀升所帶來的安全不確定性而創造的。
形式化驗證能讓系統「無法被駭」,而不只是修補
兩位來賓描述的機制是:駭客攻擊利用的是程式錯誤;若能以數學證明某一類錯誤已不復存在,系統在該類錯誤的範圍內就無法被駭。Barrett 承認,這與「任何系統都可能被駭」的既有認知相牴觸,並表示形式化方法史上確有成功案例,曾打造出無法被駭的系統——但過去這麼做非常昂貴,如今情況已經改變。
Hsu 區分「找出」與「消除」:&Truth 不只是找出錯誤、協調負責任的揭露與修復,而是能「徹底消除整類錯誤,而且不是隻在某個時間點,而是持續地做到」。
Hsu 強調的實務後果是自主系統的信任問題:你怎麼知道自己可以讓代理「自由執行」?怎麼知道沙箱「一定守得住」?他說,這種保證層如今在大規模場景中仍然缺席。
程式碼比數學更凌亂,缺的那一塊是語意
主持人以 AI 數學革命作類比——Navier-Stokes 方程的證明、Lean、Mathlib。Hsu 把這場革命歸功於 Lean 加上 Mathlib,他形容 Mathlib 是超過 200 萬行的公理,Lean 可據此檢驗證明。軟體更難,因為「軟體比數學更凌亂」——處理的並不是同一種離散物件。
Barrett 精確說明這個落差:要證明程式正確,必須先把程式碼轉換成數學,而這「不是一個完全直觀的過程」,對較老的語言尤其如此,它們甚至有「連語意都有爭議」的情況。你需要多年的程式語言與形式化方法研究,才能搭起這座橋。一旦程式碼被表達成數學物件,AI 在數學領域展現的證明能力就能轉移到關於程式碼的證明上。
Hsu 如此描述這個轉折:「我們從證明『證明本身』,走向證明『程式碼本身』。」&Truth 以 Lean 作為可信核心。
主持人問到 vibe coding 與高度抽象化的軟體,Barrett 說這些技術是已知且通用的——「我們確實知道怎麼把任何程式碼轉換成數學」——只是還沒被落實成像 Lean 這樣的系統。Hsu 為理想終局取的說法是從「vibe coding 走向 veraricoding」:開發者交付程式碼時帶著可證明的確定性,而不是希望。
通用性是差異化所在,而且是從第一原理打造
主持人點出「通用性」是最不尋常之處:過去的嘗試只把特定程式碼轉成可驗證形式。Barrett 說 &Truth 刻意不從既有系統出發,而是從第一原理打造一個通用層,再把每種程式語言嵌入其中。他表示,即使團隊已是世界級專家,「看著它真的跑起來還是很令人驚奇」。
Hsu 稱這項產品為「通用驗證機」,用詞是刻意挑選的:可擴充套件、Token 效率高、跨語言通用。他們揭示的願景是:所有關鍵軟體中的每一行程式碼,無論新舊,都能被證明正確。
公開展示的成果是 An Atlas,於本集播出前一週發布(即 2026 年 11 月上旬至中旬)。這是一張關鍵 C 程式碼庫的地圖,呈現驗證進度——主持人描述自己看著函式被證明正確後一一轉綠。Hsu 表示 &Truth 已驗證超過約 11 萬行程式碼,Atlas 同時呈現這些進展與仍待克服的挑戰,包括專案之間的相依關係;他點名的專案有 curl、nginx、OpenSSL 與 Linux 核心。
flowchart TD
A["以語言 L 撰寫的原始碼"] --> B["語言 L 的語意層"]
B --> C["通用驗證層"]
C --> D["程式碼的數學表示"]
D --> E["證明義務"]
E --> F["自動推理引擎"]
E --> G["AI 補足缺口、撰寫不變數與規格"]
F --> H["Lean 可信核心檢驗證明"]
G --> H
H --> I["可獨立檢驗的證明"]
Barrett 說明開源 C 為何在商業與社會層面都重要:這些套件是關鍵基礎設施的底層,新聞上許多資安事件正是源自這些專案的程式錯誤。Atlas 既是公共財,也是實證——「你不必聽我們說,看我們做給你看。」
成本曲線:兩段 100 倍,且只有 5–10% 靠 AI
主持人引用一個驚人的數字:&Truth 團隊成員 Livia 以 500 美元完成 Signal 加密協定的驗證。Barrett 的粗略估算:從前 AI 時代到後 AI 時代,形式化驗證的成本降低約 100 倍、速度提升約 100 倍;&Truth 的工作再讓速度提升 100 倍、成本降低 100 倍。
關鍵在於大部分工作並不靠 AI。Hsu 說,相較於今日「把 Token 一股腦丟進去」的做法,效率約提升 20 倍,而且只有 5–10% 的工作真正依賴 AI——其餘靠的是自家的證明自動化技術。Barrett 解釋其基礎:自動推理是他投入 30 年的領域,專門打造能進行邏輯與數學推理的演算法。多數軟體都遵循常見的模式與結構,而針對這些結構的推理可以機械化。他的對比是:AI 工具可能要花 10 分鐘、幾美元才能證明某件事;自動推理工具則可能在 0.01 秒內免費完成。
| 槓桿 | 引用的效果 | 來源 |
|---|---|---|
| 前 AI 時代到後 AI 時代 | 成本約降 100 倍、速度約升 100 倍 | Barrett 的粗略估算 |
| 再加上 &Truth 的自動化 | 成本再降約 100 倍、速度再升約 100 倍 | Barrett |
| 相較於把 Token 一股腦丟進去 | 今日效率約提升 20 倍 | Hsu |
| 依賴 AI 的工作佔比 | 5–10% | Hsu |
| Signal 加密證明的成本 | 500 美元 | 主持人引述 Livia |
Barrett 也重新詮釋了讓形式化方法背上「太難、太貴」惡名的歷史取捨:你可以選擇全自動但無法擴充套件,或者選擇可擴充套件但需要龐大的人力投入。如今 AI 補上了可擴充套件路徑上的缺口——撰寫不變數、撰寫規格、協助證明——而例行推理則交給自動化處理。
三種客戶路徑:開發者、企業、監管機構
Hsu 把上市策略拆成三類受眾。對開發者,賣點是無所畏懼的體驗:寫程式、做效能工程與最佳化,同時確信交付的成果正確且無懈可擊;對比今日 vibe coding 的產出,因為錯誤率高,價值必須被打折。對企業,賣點是持續監控關鍵軟體是否符合應有性質、證明軟體行為符合預期,以及在程式碼現代化過程中提供保證。對監管機構,Hsu 提出兩點:獨立可檢驗性很重要——「我們不希望任何人只憑 &Truth 的一面之詞就買單」——而大規模驗證能為企業與開發者是否遵循法規要求,建立透明的問責基礎。
被直接問到 &Truth 是否可能成為強化軟體的法定合規要求時,Hsu 回答:「答案很簡單,是,而且非常可能,那樣的世界會更安全。」他主張,無論是透過監管還是企業採用,市場都會往那個方向走,「因為代價太高了」,而形式化驗證是他所知唯一能達到可證明安全、100% 無漏洞程式碼的途徑。
下一步:開放規格、開放語意、開放證明,以及公開的進度條
Barrett 說,接下來會看到能力加速、開源生態被守住,以及買方從「尋找更多問題」轉向「尋找解決方案」。Hsu 提出三項具體承諾:
- 密切關注 An Atlas——它有一條公開進度條,追蹤已守住多少關鍵程式碼。
- &Truth 將開源其規格、語意與證明,以實現獨立可檢驗性,並鼓勵社群參與。
- 公司預計公佈其發現的關鍵錯誤、負責任地處理,並逐步展示「永久」消除整類錯誤,而不只是修補。
Hsu 最後向開源社群喊話「全員出動」,Barrett 則把終局描述為走出「黑色十月那樣的時期」。
未解的張力:誰來驗證驗證者,監管到來前誰來付錢
本集最脆弱的一環,是來賓點出卻未解決的問題。獨立可檢驗性被當作原則宣示,開源規格、語意與證明是他們提出的答案——但可信核心是 Lean,語意層卻是 &Truth 自己打造的。懷疑者會問:這套保證有多少建立在該公司自己撰寫的層之上?商業問題同樣懸而未決:500 美元的 Signal 證明是個亮眼的資料點,但來賓沒有給出定價模式、沒有企業合約案例,除了「每個人都會想要」之外,也沒有任何營收時程。監管路徑只是預測,並非任何具名機構的承諾。值得持續追蹤的是:Atlas 進度條是否以「已驗證 11 萬行」所暗示的速度推進、開源的證明是否吸引獨立檢驗,以及是否真有監管機構把形式化驗證列為合規要求,而不只是審查表上的一個勾選項。