AI 時代的自適應應用安全:Cloudflare 如何連線程式碼、流量與情報阻止攻擊
Adaptive application security for the AI era: how Cloudflare connects code, traffic, and intelligence to stop attacks
Cloudflare 在部落格中公佈了面向 AI 時代的自適應應用安全框架,強調將程式碼、流量與情報連線以阻止攻擊。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
在七月,AI 代理在測試新的網路安全模型時,破壞了 OpenAI 的基礎設施和 Hugging Face 的生產環境的一部分。
我們剛剛目睹了首批 AI 驅動的成功網路攻擊之一。當被賦予任務時,代理忽略了現有的安全防護,自動發現了此前未知的漏洞,恢復了暴露的憑證,在雲環境之間移動,並通過它們自己建立的通訊渠道協調工作。
最終破壞的速度令人難以置信。在不到 13 小時內,代理從在 Hugging Face 工作節點上執行程式碼,升級到跨多個叢集的管理員級訪問。但事件已經醞釀了更久。響應者發現了可追溯到五月的活動線索(代理建立了未授權的留言板),六月的內部網路掃描,以及七月初的活動。只有在 7 月 20 日才瞭解這些事件之間的關聯。
這裡的教訓不是 AI 代理利用漏洞。那並不新鮮;人類攻擊者已經在做這件事。變化在於代理能夠持續工作,同時測試多條路徑,分享發現,並將漏洞、憑證和許可權串聯成複雜的攻擊。
該事件也說明了為什麼應用安全不能僅依賴單一工具。例如,網路限制被連線到網際網路的服務繞過;有效憑證被用於執行未授權操作。重建 Artifactory 刪除了一條攻擊路徑,但代理找到了另一條。關鍵洞察是,單個警報識別了活動的部分,卻未揭示完整的攻擊。OpenAI 在 其報告 中得出了類似結論:組織需要在預防、檢測和緩解方面實現重疊且獨立的控制,持續驗證安全邊界,並更快地關聯和遏制可疑行為。
我們通過將應用安全連線到四個經常被分離的活動來應對這一挑戰:識別哪些風險重要、規範人類和代理的行為、在執行時保護應用,以及將每一次調查轉化為更強的防護。Cloudflare 能夠提供這一框架,得益於其廣泛的安全產品組合和對大量網際網路流量的視覺化。
在此框架之外,我們將現有的 Cloudflare 解決方案與每個階段的新功能相結合。這些功能包括:使用大型語言模型(LLMs)對我們的 Web 應用防火牆(WAF)進行滲透測試,向所有客戶擴充套件威脅情報,以及一項自動部署正向安全的新功能。
發生了哪些變化
安全格局正在變化。我們看到的新興趨勢是:
- 我們構建軟體的方式已發生根本性變化。AI 輔助開發使工程師能夠在傳統工程工作流程之外更快地生成和部署軟體。這種速度既產生了更多程式碼,也為漏洞進入生產環境創造了更多機會。
- 軟體組合風險仍然存在:應用程式依賴於大型開源庫、包和作業系統元件鏈,這些元件本質上被信任,且任何團隊都難以檢查。 新的情況是 AI 現在正在匯入我們可能未知的庫。
- 技術與戰術正在變化。大型語言模型可以鏈式利用漏洞,並即時使用反饋來變異載荷,規避防禦,並自主決策。它們可以持續執行,速度達機器級。更快的補丁仍然重要,但單靠補丁無法彌補差距。攻擊者總會比你更新系統更快。
- 代理流量。過去,自動化是惡意活動的同義詞。如今,代理或機器人生成的請求可能是惡意自動化、搜尋爬蟲,或代表客戶購買產品的代理。
- 被攻陷的伺服器、住宅代理、物聯網裝置和雲資源使攻擊能夠快速橫跨基礎設施和身份。一次協調攻擊可以利用多臺裝置,使其難以被識別為單一活動。
應用安全的目標也在擴大。它現在需要解決三個相互關聯的問題:保護傳統應用免受 AI 驅動的攻擊者,管理合法與惡意代理客戶端,以及保障包含模型、代理、工具和資料的應用。
一個互聯的應用安全框架
AI 時代的應用安全必須作為一個持續系統執行,而不是團隊在每次新漏洞後更新的一系列控制。要在 AI 時代保護應用,你需要開展多項活動,我們已將其組織為四個階段:
- 發現 並優先處理風險
- 管理訪問和代理行為
- 在執行時保護應用
- 調查、響應並學習
這些活動單獨來看並不新穎。變化在於將它們連線起來,使發現、執行時訊號和調查結果持續改進後續控制。
超過 20% 的網站託管在 Cloudflare 網路後面,這讓我們能夠以少陣列織難以匹敵的規模,洞察攻擊基礎設施、載荷變異、新興技術和協調攻擊。單個應用視角下看似孤立的模式,在我們的網路中會變得清晰。這種全球威脅情報、本地應用上下文和內聯執法的組合賦能框架的每個階段。該本地上下文包括已部署的程式碼、暴露的端點、合法流量的樣貌、正在行動的身份以及已啟用的控制。由於 Cloudflare 是內聯的,我們可以立即將這些洞察轉化為防護。
Cloudflare 是應用、API 和代理的自適應安全控制平面。以下是我們今天推出的內容,以推動安全旅程的每個階段。
發現並優先處理風險
安全團隊並不缺乏發現。它們難以判斷哪些發現構成即時風險。一個有用的發現系統必須將漏洞與生產現實相連,包括堆疊中埋藏的漏洞是否真正可達。我們認為你應該關注三個主要領域:軟體組合風險、專有程式碼和執行時滲透測試(pentesting)。
瞭解軟體組合風險
應用程式會繼承來自開源庫、軟體包、作業系統元件以及它們所依賴的服務的風險。這就構成了您的應用程式的供應鏈。單純的軟體包漏洞並不能告訴團隊受影響的元件是否已部署、是否可達或是否暴露於惡意流量中。開源軟體是供應鏈風險的首要關注點,Cloudflare 是旨在保護開源軟體免受 AI 攻擊的行業聯盟 Chainguard Athena 的成員之一。
掃描專有程式碼
在程式碼掃描方面,您有兩種選擇:使用託管服務,或是自主培養專業能力來自己執行。
Cloudflare 最近宣佈推出 漏洞發現與修復 (Vulnerability Discovery and Remediation) 的搶先體驗版, 該服務利用前沿模型來識別特定於應用程式的漏洞,並在工程師修復程式碼的同時部署 WAF 緩解措施以阻止有針對性的利用。重要的一步是優先順序排序。Cloudflare 將原始碼發現結果與生產流量和安全訊號連線起來。我們可以識別受影響的路由是否處於活動狀態,以及它接收多少流量。
在執行時對您的應用程式進行滲透測試
防禦者也可以使用與攻擊者相同的能力。客戶可以構建自己的基於 LLM 的滲透測試框架 來搜尋弱點、驗證發現結果,並測試他們的應用程式是否存在漏洞。發現過程變成持續的,而不再是週期性的活動。自從 Anthropic 的 Claude Mythos 釋出以來,我們在 Cloudflare 內部就已經這樣做了,並且我們分享了我們的經驗教訓。
如果無法從外部訪問,藏在程式碼深處的漏洞就更難被利用。我們的安全分析師團隊已經使用基於 LLM 的紅隊演練 來 測試客戶應用程式和我們自己的執行時檢測,將發現結果轉化為針對所有客戶的改進檢測。我們現在正在開發自適應安全 (Adaptive Security) 這項自助服務功能,它將使用由 LLM 驅動的AI 助理定期對 Cloudflare 背後的選定 URL 進行滲透測試,以便在攻擊者發現之前識別可達且可被利用的漏洞。
管理訪問和AI 助理行為
AI 助理流量執行在自動化與人類之間的空間:由人類委派、由軟體執行的任務。這改變了必須如何做出訪問決策的方式。僅檢測自動化已遠遠不夠。對於每次互動,應用程式所有者都需要回答兩個問題:此實體是否為其聲稱的身份,以及此互動是否可信?
這些問題很難回答。一個具有長期合法活動歷史的知名AI 助理可能具有高度信任,但異常操作仍可能產生直接風險。未知的AI 助理可能只是新出現的;缺乏歷史並不一定意味著惡意的意圖。Cloudflare 的方法是將信任和風險訊號分開,從而讓應用程式所有者比單一的機器人評分或允許/阻止決策擁有更多控制權,並提供更強大的工具來快速適應變化。
建立身份與信任
信任隨著時間積累,而風險則針對每次互動進行評估。
Botbase 提供一個已在 Cloudflare 註冊的已知自動化實體目錄。註冊讓合法的機器人和代理能夠宣告它們的身份,而應用所有者則保留對這些代理是否以及如何訪問其站點的控制。Cloudflare 還在讓更小、更定製化的代理更易註冊,構建一個跨所有代理流量的已驗證身份層,而不僅僅是主要平臺。
身份本身並不能建立信任。Cloudflare 可以評估實體是否曾被看到過,歷史行為是否合法,以及當前活動是否與歷史一致。這使得能夠區分正常行為的已識別代理與同一代理突然改變既定請求模式、位置、身份或交易行為的情況。
瞭解整個旅程中的代理行為
Precursor 新增客戶端和會話級訊號以區分人類與自動化行為,例如輸入節奏、滑鼠移動、導航模式和動作序列。一個在兩秒內完成結賬流程、跳過人類會進行的瀏覽和比較步驟的代理,通過會話展示其本質。這些訊號有助於識別會話中的行為是否與人類互動或自動化一致,為應用所有者提供更清晰的流量管理檢視。
管理訪問並適應
Application owners can block traffic from AI crawlers and decide what activity is allowed on their asset (e.g. search, training, etc.). Adaptive Intelligence 將網路、客戶端、歷史和行為驗證訊號結合在一個機率模型中,該模型可隨著攻擊者改變技術而更新。客戶結果,包括退款和成功的合法交易,可反饋到系統中以改進未來決策。
結果是對每個實體和互動的持續更新評估。應用所有者可以鼓勵已知且有用的自動化,同時在身份、歷史和當前行為表明更高風險時施加更強的控制。
在執行時保護應用
Cloudflare’s reverse proxy protects applications at runtime by filtering traffic before it reaches the origin. In the AI era, a new layered approach is emerging to best filter traffic from malicious requests:
- 執行積極安全
- 檢測攻擊並識別 LLM 策略和技術
- 保護業務邏輯
- 部署即時威脅情報
執行積極安全模型
你可以通過了解合法流量的樣子,顯著降低攻擊面,允許符合規範的請求並阻止其他所有請求。今天我們宣佈 Application Profiles,它會自動學習你的網站或 API 應用的結構並檢測不符合規範的請求。Application Profiles 自動化學習過程並新增解釋層。基於已學習的配置檔案,我們可以瞭解不同端點和請求引數的業務邏輯,並幫助你優先關注需要更多審查和關注的端點。
檢測攻擊並識別 LLM 策略和技術
傳統的 WAF 旨在執行精心設計的規則,以檢測常見漏洞和暴露 (CVE) 以及惡意有效負載。在人工智慧出現之前,披露新漏洞的時間以月和天計算。現在情況不同了:我們現在看到漏洞在披露之前就被利用,因此打補丁的時間接近於零。
可以部署不同的工具來檢測已知的漏洞利用。這些工具包括:
- 經過前沿模型加固的託管規則。我們與主要模型提供商合作,使用前沿模型進行對抗性驗證。我們使用最新的模型對 WAF 進行滲透測試,以 發現繞過方法 和漏洞。所有客戶都可以自動從持續改進中受益。
- 機器學習檢測。雖然簽名非常適合高精度攻擊檢測,但機器學習可以在攻擊被發現和披露之前阻止它們。攻擊評分 可以檢測 LLM 經常使用的攻擊變異和規避技術。攻擊評分適用於所有 Cloudflare 客戶
- 針對應用程式的 AI 安全。聊天室和麵向網際網路的 LLM 容易受到新一類攻擊的攻擊,例如提示詞注入和敏感資料洩露。您可以部署旨在阻止這些攻擊的護欄和安全檢測,來 保護生成式 AI 流量。
保護業務邏輯
攻擊者仍然可以構建合法的請求並濫用業務邏輯來在應用程式中獲得優勢。例如,攻擊者重複使用有效的密碼重置流程來接管帳戶。欺詐檢測工具(包括帳戶接管和洩露憑據檢測)有助於防止請求看似合法但意圖惡意的濫用行為。
即時威脅情報檢測
早在 6 月份,我們就推出了基於威脅情報源的 全天候檢測。Cloudforce One 客戶可以部署保護措施,以阻止源自受損基礎設施的請求。我們現在還 擴大訪問許可權 將 Cloudforce One 的威脅事件平臺(我們的核心威脅情報產品)向 所有 Cloudflare 免費賬戶 開放。
調查、響應和學習
OpenAI Hugging Face 事件並不是從最後的 13 小時妥協開始的。該活動從 5 月持續到 7 月,其訊號包括未授權的留言板、內部網路掃描以及跨環境的移動。單獨來看,每個事件只顯示了活動的一部分。放在一起,它們顯示了正在發生的洩露行為的行為特徵。因此,安全運營必須識別導致妥協的行為序列,而不僅僅是孤立地評估警報。
對於已經以有限資源保護巨大攻擊面的安全團隊來說,這很困難。來自不同工具和資料集的警報紛至沓來,讓分析師不得不去確定哪些事件是關聯的、收集證據並識別活動是否在升級。
Cloudflare 正在構建一個平臺,以自動化安全運營。確定性工作流利用觸發歷史、流量基線、執法結果和網路觀察來建立客戶和調查上下文。檢測代理在授權資料集中搜索異常和關聯。當發現可疑活動時,專家代理會與客戶歷史和威脅情報一起審查證據,幫助分析師將孤立事件與更廣泛的攻擊活動關聯起來。系統隨後可以推薦緩解措施,例如速率限制、WAF 或 DDoS 保護更改,供人工批准。
我們正在與 Cloudflare 的 Managed Defense 團隊一起開發這些功能,該團隊的分析師正在幫助我們測試證據如何被收集、關聯並轉化為建議。我們計劃隨著時間的推移將其更廣泛地提供,並將在工作進展時分享更多資訊。
Cloudflare 結合了反向代理和正向代理服務,使這種關聯尤其強大。應用安全訊號可以揭示對面向公眾的應用程式的利用嘗試,而 Cloudflare One 可以在企業流量中呈現後續活動。連線這些資料集可以將外部攻擊與異常訪問、內部掃描或潛在橫向移動關聯起來,將單獨的警報轉化為妥協時間線,並幫助分析師在漏洞進一步擴散之前進行干預。
展望未來
AI 正在改變軟體的構建方式、攻擊的展開方式以及與應用程式互動的主體。安全團隊已無法將發現、訪問、執行時保護和響應作為獨立活動來管理。
Cloudflare 正在將這些功能整合到一個閉環系統中,該系統由全球情報、本地應用上下文和內聯執法驅動。一次漏洞發現可以強化執行時保護,執行時活動可以引導調查,而每一次分析師決策都能提升未來的檢測和控制。
沒有任何組織能夠預見每一種新技術。目標是構建一個從每一次嘗試中學習、響應更快、隨時間變得更有效的安全系統。今天宣佈的功能是邁向這種自適應應用安全模型的下一步。