Cloudflare 說明 AI 滲透測試工具如何發動攻擊,並提出六項防禦做法
Adapting to AI penetration testing orchestrators: The Modern Security Model
AI 滲透測試工具能自動串連多個攻擊步驟,讓防守方更難及時跟上。
- Cloudflare 表示,團隊在事件調查中看到攻擊者利用遭竊的長期有效 API 權杖,從 CI/CD 環境橫向進入其他雲端環境。
- 其中一個案例出現大量 Worker 指令碼和資料庫匯出請求。Cloudflare 建議用六個環節加強防禦,包括限制流量、偵測異常行為、辨認自動化機器人、限制高風險服務的存取、檢查 API 請求格式,以及利用威脅情報掌握攻擊。也建議把系統分割槽,減少遭入侵的帳號能移動到其他環境。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Cloudflare 分享觀察到的攻擊案例,並把防禦建議整理成六個環節,從流量控管、身分驗證到網路分割槽,呈現如何降低帳號遭入侵後的擴散風險。
過去一個月,大型語言模型(LLM)滲透測試與協調框架的數量暴增。就在幾週前,ARTEX — 一套能自動化 攻擊性資安工作流程的開源代理式滲透測試系統 — 還是唯一可用的框架。 就在過去三天,我們觀察到超過 50 個框架系列嘗試掃描全球的 Cloudflare 客戶。觀察到執行這些框架的網際網路通訊協定(IP)位址數量已增至數千個,且每天持續增加。這些框架的迅速普及,大幅改變了網路防禦的現況:防禦者正難以因應這類自主引導攻擊所帶來的龐大流量。
ARTEX 的創作者 Autumn-27 於 10 月 8 日將其下架。 (「這項工具遭到惡意利用,完全違背了它原本的用途,」他們以中文寫道 。) 但在此後的一個月裡,生態系迅速擴大,出現了許多彼此分歧的新版本。目前已有超過 12,000 個儲存庫,其中數百個獨立分支版本可追溯至原始儲存庫。此外,自 10 月 8 日以來,也建立了數百個其他類似的代理式協調框架。自 10 月 1 日以來,AI 滲透測試(pentesting)與漏洞利用工具的每日請求量已成長 30 倍。這些工具也開始在部分較複雜的攻擊中串接竊取來的客戶憑證,例如在環境中透過串接方式進行橫向移動。
我們預期這些框架會持續普及,每個組織都應做好準備因應這項威脅。為了對抗以 LLM 為基礎的滲透測試框架,我們建議所有組織採用我們稱為「現代安全模型」的做法,包含六大支柱:
- 強化前門:部署具備進階規則(例如 速率限制)的網頁應用程式防火牆(WAF)。
- 在門廳設定安全檢查站:對客戶存取的所有網頁應用程式進行異常偵測。
- 辨識偽裝訪客:部署 Bot Defense。
- 拆除後門:為所有高風險的外部與內部網頁應用程式部署 以身分驗證為基礎的存取控管。
- 檢查貨物: 強制採用經驗證的結構描述與明確的安全控管。
- 鄰裡守望:部署威脅情資,以掌握攻擊情況。
什麼是 LLM 滲透測試與漏洞利用協調器?
開源滲透測試框架能協調 AI 代理,大規模執行傳統網路攻擊殺傷鏈 的各個階段。ARTEX 等工具能快速接入現有的模型脈絡協定(MCP), 並以新穎方式連結傳統的獨立滲透測試工具。有些工具甚至允許操作者指定要完成的任務型別。這些工具可以從內部與外部繪製環境地圖並進行列舉。ARTEX 及其分支版本會將資產與環境繪製成圖,讓多個獨立的平行代理以推論的速度進行列舉、驗證、原型測試與攻擊。這些工具把入侵變成一個可逐步攀升的問題,而代理特別擅長處理這類問題。
目前已有的 AI LLM 滲透測試工具
我們目前追蹤 50 多個 AI LLM 代理程式。下表列出排名前五的 LLM 滲透與利用協調器。每個都極受歡迎(GitHub 星數超過 1k),而且完全自主。這些代理程式的完全自主特性,代表攻勢網路能力在作戰準則上的轉變:
- 人類技能不再是限制:harness 會透過觀察環境、判斷方向以優先鎖定有價值和/或有弱點的目標、決定行動,並自主採取行動,完成OODA 迴圈 的每個步驟。
- 速度提升:多個代理程式平行朝同一目標執行任務,相較於單一操作者,或由 AI 輔助的多名操作者,是一項重大轉變。
- 規模:單一操作者可同時鎖定多個組織,大幅擴大其影響範圍。
- 小錯誤很容易被發現:自主框架會持續且系統性地測試暴露的服務,包括其設定。
架構 | 規劃模型 | 內建能力/執行環境 | 入侵後能力 | |
ARTEX(及其分支版本) | 規劃器與平行代理程式 | 目標、線索和發現事項構成的圖表,連結至獨立的目標資產圖 | 直接在具備網路/root 存取許可權的主機或容器上執行,可視需要安裝或開發工具 | 沒有內建功能,需要使用者指示 |
LuaN1aoAgent | 監督代理程式、規劃代理程式和通用執行代理程式 | 三種圖表,分別記錄目標/任務/阻礙、證據/假設/漏洞利用,以及目標/本機 | 具備網路/使用者存取許可權的容器,可視需要開發工具及安裝使用者套件 | 內建 SSH 和 Chisel,可用於通道傳輸,並在連線中斷後嘗試重新連線 |
Decepticon | 負責派遣專業子代理程式的協調器代理程式 | 具有先決條件的目標圖表 | 以 root 身分執行的 Kali 容器,可視需要開發工具 | 專用的存取後、Active Directory 和雲端橫向移動技能 |
Cairn | 將工作分派給現有 AI harness(Codex、Claude Code、Pi)的排程器 | 事實與線索圖表;新增節點會觸發排程器 | 具備 root 存取許可權的 Kali 容器,或直接在主機上執行,可視需要開發工具 | 提示指引和 Kali 工具 |
PentestGPT-Agent | 監督代理程式和一個通用執行代理程式 | 具有相依性、目標和證據的任務清單 | 在主機上執行,可視需要開發工具 | 沒有內建功能,需要使用者指示 |
來自全球最大網路的觀察結果
截至 11 月 12 日,ARTEX 及其分支版本佔目前已知 AI 滲透測試協調器的 60% 以上。下方圖表有助於我們瞭解過去六週中,這些工具的採用情況如何變化。自原始 ARTEX 儲存庫於 10 月 8 日移除後,流量成長超過十倍;自 10 月 1 日以來則成長超過 30 倍。
如上所示,ARTEX 於 10 月 8 日遭下架(且此事廣泛受到報導),可能引發了九頭蛇效應:原始儲存庫移除後,分支版本和修改版本的數量大幅增加,這可從 10 月 8 日前後獨立執行個體數量的急遽攀升看出。
身分鏈結的 LLM 漏洞利用
在過去 8 週內,我們的 Cloudforce One 團隊多次參與涉及 ARTEX 與衍生自 ARTEX 的 LLM 攻擊框架的事件應變調查。我們親眼看到,攻擊者如何利用外洩的憑證搭配以 LLM 為基礎的攻擊框架,在與防禦者的攻防中取得優勢。
我們觀察到多起事件:威脅行為者取得超大規模雲端服務環境的初始存取權後,直接轉向客戶的 Cloudflare 環境。根本原因分析顯示,這些事件都存在相同的憑證管理疏失。攻擊者一再入侵 CI/CD 管線中使用的靜態、永久有效權杖,藉此取得組織超大規模雲端服務基礎架構中跨環境的廣泛存取權。LLM 框架大幅提高了客戶 API 金鑰遭到橫向利用、進而接管其他租戶環境的可能性。
ARTEX 實際運作情形
在其中一起事件應變調查中,我們的團隊觀察到 ARTEX 取得一組遭入侵的帳戶層級 API 權杖。該權杖先前用於 CI/CD,且沒有 IP 限制或速率限制。現有證據顯示,這起入侵最可能源自第三方超大規模雲端服務。
我們觀察到大量新的 Worker 指令碼遭建立,名稱各不相同,例如 artex-*、artex-pgrecon-*、artex-pgw-* 和 artex-do-*。每個 Worker 指令碼的名稱都與其採取的特定行為和動作相符,名稱末尾通常還會加上英數識別碼。我們觀察到,Cloudflare 基礎架構中多個不同部分的活動量超過 每分鐘 69 個要求 ,且在一小時內提出 400 次資料庫匯出要求。我們也觀察到試圖建立持續存取機制,以及驗證其他第三方應用程式工作階段權杖的行為。雖然我們認為這些活動大多僅由人類操作員稍加引導,但這只是 ARTEX 和類似框架在入侵後能達到的速度與涵蓋範圍的一個例子。
我們的建議:現代化安全模型
大型語言模型讓威脅行為者能更快速地針對目標逐步執行網路攻擊鏈。他們藉此取得速度與驗證方面的優勢。網路攻擊鏈的每個步驟都能經過驗證,再傳入下一個攻擊階段。這種程度的協調能力前所未見,足以讓傳統網路安全模型形同失效。面對這類攻擊,必須採用現代化模型。
為了進一步說明這個模型,我們以保護莊園中的房屋為例。以下各節說明如何防禦每個階段的威脅。
鞏固前門:實施流量管制,並採用具備進階規則的 WAF
在任何人踏上草坪之前,都得先抵達莊園的周界圍欄。
在沒有防護的莊園裡,攻擊者可以派出無止盡的誘餌卡車,直接開進車道,完全堵住入口並撞破屏障(第 3/4 層流量洪泛攻擊與直接 IP 探測)。
設定周界大門安全機制後,所有進入的流量都會先經過數英里外的大型分散式外圍大門。惡意送貨卡車會被導向公路;企圖竊聽莊園的惡意管線則會遭到切斷;只有合法的人員流量能抵達住家地址。
門廳的警衛站:異常偵測
訪客抵達主要入口後,會先遇到門廳嚴密的警衛站。
自動化探查工具不只會踹門,還會偽裝自己。它們會用奇怪的方式嘗試進門——把紙塞進鎖孔,或是嘗試各種變化,例如 //front-door//back-room/ 來騙過機關,讓門敞開。
門口的警衛會嚴格執行明確規則:
- 你不能在五秒內敲門 500 次。
- 你不能用花招隱藏自己的行蹤。
- 你不能試圖把大型平板推車推過前廳,搬走屋內的藍圖(診斷用堆積傾印)。任何可疑行為都會立即遭到拒絕。
- 實作安全金鑰與硬體式 FIDO 金鑰。
Web Application Firewall (WAF) 透過速率限制與異常偵測,成為阻止應用程式遭到利用的重要防禦機制。
識破假訪客:實作 Bot Defense
老練的闖入者通常不會打扮成蒙面竊賊,而是偽裝成一般訪客。但自動化代理程式、無頭瀏覽器爬蟲與 AI 偵察工具的行為不像真人。
它們不會眨眼,姿勢僵硬得令人不安,行動節奏機械化,而且所謂的「識別證」往往只是粗劣仿造的訪客證。
Bot Defense 和 挑戰驗證 就像行為分析專家,透過單向玻璃監看人群。它們會標記不自然的行動節奏、察覺合成的細微行為,並在機器碰到任何一個門把之前,悄悄將它們請離場地。
封住後門:實作身分控管存取與微分段
許多住宅過去都設有側門或地下室活板門(內部管理面板、/actuator 診斷端點和遠端閘道)。即使門鎖著,探查者仍可站在人行道上,用手電筒照著地下室門並開始撬鎖。
Zero Trust 應用程式存取 採取了大膽做法:從外面封死入口,並限制可進入的房間。
對任何在周界徘徊的人來說,地下室的門根本不存在。沒有鎖可以撬、沒有把手可以拉,也沒有燈光從裡面透出。唯一的進入方式,是由隨行人員檢查你的生物辨識識別證、確認裝置狀況良好,再直接帶你進入所需的特定房間,讓屋內其他地方不會曝光。
即使有人獲準進入,也必須確保他們無法闖入相鄰房間。微分段 是阻止橫向移動的有效策略,可避免遭入侵的憑證進一步攻破正式環境、測試與開發系統。
檢查送貨物品:強制驗證結構描述並明確設定安全控管
你每天都會收到送到宅邸的物資,例如食品、郵件和維修零件。以數位環境來說,這些就是傳入的 API 流量,必須經過檢查與驗證。
入侵者常會傳送未經驗證的負載,或偽造送貨清單,企圖繞過控管並存取受限制的內部系統。
Porch protocol 規定必須徹底檢查所有流量並驗證結構描述:
- 每個傳入的要求都必須通過 OpenAPI 結構描述驗證 ,確保嚴格符合預期的定義和結構。
- 駕駛人和快遞員必須出示經驗證的雙向 TLS(mTLS)憑證,才能建立可信賴且經過驗證的連線。
- 任何未通過檢查或缺少有效憑證的要求,都會在邊界立即遭到拒絕。
- 預設拒絕態勢:所有正向安全性實作的最後,都會在規則集底部明確加入拒絕所有流量的規則。
鄰裡守望:匯入威脅情報,掌握攻擊動態
即使高牆固若金湯,孤立的莊園仍可能受到威脅,因為犯罪集團可能在附近發明全新的滲透手法。
威脅情報 就像是與鄰近莊園建立的警戒網路。當不法分子在附近設立新的命令與控制據點,或開始在你的轄區部署動態通道車輛時,你會及早收到情報。莊園會更新監控清單、重新校準感測器,並在對方轉進你的街道前關閉大門。
如何取得即時協助
ARTEX 和類似的 LLM 架構,對傳統網路防禦模型構成重大挑戰。即使是強調傳統網路 DMZ 的歷史性深度防禦模型,也不足以應付當今複雜的架構。隨著協調工具逐漸成為常態,未來的攻擊只會更加進化。
要保護舊型裝置和地端裝置,必須採用以身分為閘門的做法,從邏輯上讓這些裝置無法從網際網路存取。除了身分控管,微分段的目標還包括減緩橫向移動,或讓這類行為更容易被察覺。這種架構強調以圍堵為優先的安全性做法;當使用者不斷遺失金鑰時,這點至關重要。結合這些要素,現代安全模型便能解決這項棘手問題。
如果你正遭遇進行中的安全事件,需要 Cloudforce One 團隊到場協助應變,或需要威脅情報支援,請立即聯絡我們。如果你需要協助實作本文所述的現代安全模型,請聯絡我們的解決方案工程團隊。