前沿 AI 模型出奇地容易上當 | Snehal Antani
前沿 AI 模型出奇地容易上當 | Snehal Antani
Horizon 3 的 Snehal Antani 指出,AI 代理(agent)比人類更容易上當得多(面對誘餌檔案時,上當率為 96% 對 37%),而在資安防禦中,真正的護城河是防火牆後的訓練資料,而非零日漏洞。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Podcast 專家音訊節目
收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情
Horizon 3 共同創辦人暨執行長 Snehal Antani 主張,AI 對 AI 的網路攻防戰中,真正的瓶頸不是算力,而是防火牆後方的訓練資料;他也警告,今日的前沿模型一旦被當成攻擊代理使用,會天真到危險的程度。在這集 19 分鐘、由主持人 Sophia Dew 進行的訪談中,Antani 大部分時間都花在這道訓練資料護城河、攻擊者實際的作案手法(靠竊取的憑證與錯誤設定,而非零日漏洞),以及 Horizon 3 的營運指標與新成立的「對抗情報前沿實驗室」。標題所凸顯的「天真」研究,只是訓練資料論證裡一個引人注目的資料點,並非本集的主軸。
Antani 的發言立基於罕見的資料取得優勢:Horizon 3 的 Node Zero 產品在客戶網路內部執行 AI 驅動的滲透測試,公司表示六年來已從這些測試中蒐集了去識別化的攻防遙測資料。讀者讀完後,應該能掌握「無限網路子彈」論點背後的具體數字、為何修補會是下一個戰場的因果資料論證,以及清楚分辨哪些說法是公司自家的行銷話術、哪些是可驗證的公開事實。
前沿模型會被誘餌騙倒,因為它們的資安訓練資料太淺
Antani 的核心技術主張是:大型模型實驗室訓練所用的,是公開而淺薄的資安素材——Hack The Box 的解題文章與公開漏洞研究——這使得它們的代理在真實環境中很容易被耍。Horizon 3 的對抗情報實驗室用一個誘餌檔案做了測試。據 Antani 所述,在網路靶場裡放一個假的 password.txt,騙過人類駭客的機率是 37%,騙過 AI 代理的機率卻將近 96%。他描述的機制是訓練資料的記憶召回:模型從訓練語料中認得這個檔案,「忍不住就去互動」,因而觸發偵測。
「同一個假檔案,人類駭客有 37% 的機率會上當;AI 代理卻有將近 96% 的機率會上當。」
他把這個論點對稱地延伸:誘餌與騙術同樣可以分散防禦方 AI 代理的注意力,讓攻擊者趁機「扒走它的錢包」;他預測,未來 12 到 24 個月內,模型的天真程度將成為攻防兩端最熱門的研究領域之一。
護城河是防火牆內的訓練資料,不是算力
被問到 AI 對 AI 的資安攻防是否取決於誰的算力最多時,Antani 表示算力固然重要,但訓練資料才是限制因素。他的論證是:原始碼資料唾手可得(每個 GitHub 專案、Linux Foundation 的儲存庫、每一次 commit 與 merge request),所以前沿模型在程式碼上表現優異。但最有價值的攻防資安資料——網路組態、控制項設定、真實的攻擊結果——都鎖在企業防火牆內,任何前沿實驗室都拿不到。
Antani 表示,Horizon 3 的策略是每當客戶執行其 AI 駭客,就蒐集去識別化的遙測資料,藉此建立起他所稱、規模最大的乾淨標註生產級訓練資料集。他稱之為資安界的「新石油」。這項說法出自公司本身,本集並未獨立查證。
攻防配對把一次入侵變成一份修補清單
Antani 用來解釋這批資料為何有價值的框架是「因果配對」。只看防禦面,就像知道另一半在生氣卻不知道原因——可能的原因有上百萬種。看到攻擊面則能得到一個事實:駭客突破了 EDR、偷走了資料,於是確切的錯誤設定已知,確切的修法也隨之而來。他說,正是這些成對的紀錄,讓紅隊與藍隊代理能自動協同修復環境。
flowchart TD
A["AI 駭客在客戶網路執行滲透測試"] --> B["攻擊得手,例如繞過 EDR、竊走資料"]
B --> C["記錄成因:確切的錯誤設定或薄弱的控制項"]
C --> D["得知結果:確切的修補方式"]
D --> E["去識別化的攻防配對加入訓練語料"]
E --> F["下一代的攻擊與防禦模型"]
F --> A
攻擊者利用的是可重複的基本功,不是零日漏洞
Antani 反駁「黑色十月」的恐慌,以及 Mythos 之類工具掀起的一波漏洞揭露潮。他說,駭客不是像電影裡那樣用零日漏洞破門而入——他們是拿著偷來的帳號密碼登入。過去四五個月發現的漏洞中,真正在野外被利用的寥寥無幾,因為攻擊者根本不是這樣作業的。
據他所述,攻擊者真正鎖定的是:
- 周邊與邊緣閘道——F5、Ivanti、Fortinet、Palo Alto Networks
- 遠端管理層——SolarWinds、Ivanti 之類的技術
- 憑證與控制項的弱點——容易被破解的密碼、許可權過大的使用者、停留在僅偵測模式的 EDR
背後的邏輯是可重複性:一個設定錯誤的 EDR 普遍存在於眾多客戶身上,所以一套戰術可以反覆收割。他警告,防禦方若過度偏向修補漏洞,只會把攻擊者推向堆疊中沒人盯的那一塊——「攻擊者也有投票權。」
AI 給攻擊者無限彈藥,改變了入侵的成本結構
Antani 描述的核心轉變不是創造力,而是速度與量。AI 模型以機器速度執行攻擊的基本功,他把它比作老電玩裡彈藥無限的作弊碼:有了無限的網路子彈,攻擊者對什麼都開火,根本懶得挑目標。所需技巧更低、扣扳機更快、涵蓋範圍更廣——他說,這解釋了為何每天遭入侵的組織明顯增加。
他舉了一個近例:某個原本為 Hack The Box 與搶旗賽打造的滲透測試框架被武器化,如今在世界各地架設起來攻擊組織。他預期會有更多開源 AI 攻擊工具跟進,且多數會被不肖份子所用。
Horizon 3 靠高效率、通路帶動的成長,估值翻了三倍
Antani 把估值突破 20 億美元歸功於規模化執行。他引用的指標如下:
| 指標 | 數字(依 Antani 所述) |
|---|---|
| 估值 | 逾 20 億美元,翻了三倍 |
| 營收成長 | 年增 120%,維持 100% 以上 |
| ARR(年度經常性收入) | 約 1.1 億美元,「實打實的 ARR」 |
| 營運費用效率 | 每 1 美元營運費用創造 2.5 至 3 美元新增營收 |
| 銷售模式 | 通路優先、合作夥伴生態系 |
他把功勞歸給「死忠擁護者」——在 Horizon 3 不在場時仍代為發聲的客戶——而非靠關係銷售;並表示資本市場對公司的信任帶動了估值攀升。他也提到幾場吸睛的展示對建立品牌的助益:一名 9 歲小孩用產品在 4 分 12 秒內駭進一家銀行;Horizon 3 則與 NSA 在 Black Hat 同臺主題演講,示範如何在 77 秒內駭入一個組織。
下一個戰場是自動化修補與威脅獵捕
Antani 主張,滲透測試的目的不是找出問題,而是修好真正要緊的問題,而修補的範圍遠比打補丁寬廣得多。他點名的工作流程包括:自動修正設定錯誤的防火牆規則、自動修正讓資料被竊走的資料外洩防護設定、自動重設容易被破解的密碼。他也希望滲透測試能兼作威脅獵捕——「我們闖進你家的同時,會注意到門框早就壞了」——並加速事件應變與圍堵。他預測,能快速修復問題的藍隊代理將成為熱門話題。
貫穿整集的主線是:決定 AI 對 AI 資安攻防勝負的,是資料不對稱,而非模型能力。有兩處張力值得留意。第一,Horizon 3 的核心證據——37% 對 96% 的天真程度測試結果,以及其訓練語料的規模——都出自公司自家的研究與行銷,並未經獨立佐證。第二,Antani 主張多數新漏洞無關緊要,這與他自家產品「攻擊者愈來愈快、入侵事件持續攀升」的賣點略顯矛盾;兩者可以同時成立,但本集並未把這個矛盾講清楚。真正該盯的具體發展,是藍隊修補代理是否真如他所描述地推出——因為他說,下一階段的競爭就落在這裡。