跳到正文
cloudflare blog(blog.cloudflare.com)· Bryan Becker·· 17 天前精選品質評分79

Cloudflare 推出 Trusted Agent Delegation 聯盟並新增網站AI 助理管理功能

Agents aren’t humans (but they kinda are)

重點導讀

Cloudflare提出 Trusted Agent Delegation(TAD)倡議,並為客戶新增 AI 助理流量辨識、存取控管與帳戶追蹤功能。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

文章把遠端 AI 助理造成的身分、信譽與責任歸屬問題,連結到 Cloudflare 已提供的流量辨識、存取政策與帳戶追蹤功能。

正文 · 中文翻譯

AI Agent 現在代表數百萬人在網路上採取行動。對網站而言,Agent 有許多種形式。它可能與執行任務的人類使用者毫無二致,也可能看起來像是一位訪客代表許多使用者行事。這使網站無法辨識、服務並追究 Agent 背後的一位或多位使用者的責任,出問題時,網站也得承擔相關成本。本文主張,若要讓網站盡可能開放 Agent 存取,整個生態系就必須建立新的機制,以維護網站與使用者之間的關係。傳統上,在資安與防詐領域,這需要三項要素:身分、信譽與責任歸屬,讓網站能回答以下問題:行動者是否如實說明自己的身分?這個人值得信任嗎?誰要為這項行動負責?

「Personal AI Agents」(簡稱「Agents」)是由人類(「使用者」)提供指示,並透過操控雲端電腦或瀏覽器來達成目標的自動化程式。它們通常由「營運商」託管與維護,作為代管服務或消費者產品的一部分。範例包括 Meta 的 Muse 和 OpenAI 的 dots,並且不斷有新產品推出。Agent 有可能線上上執行使用者能做的任何操作,而且不受人類的限制。它們不會疲倦、全天候運作、能平行處理,也能忍受任何人都受不了的繁瑣流程。網路上許多事物,從網站如何規劃容量到如何營利,都假設使用者會受到這些限制。

從根本上說,遠端託管的 Agent 是中介者。中介者是指任何位於使用者與網站之間,讓網站看到的是中介者而非使用者的事物。Agent 是最新一種中介者,但中介者早已存在。雲端瀏覽器(由軟體代替使用者操控的託管瀏覽器)和 Proxy(轉送使用者流量的服務,包括 VPN)也都是中介者。改變的是發展趨勢。Agent 流量正快速成長,近期可能超越網際網路上的傳統人類瀏覽流量。這迫使現今所有網站營運者正視這個問題。過去,網站可以直接封鎖中介者流量,要求使用者停用中介服務。但當大多數流量都來自 Agent 時,這種做法就行不通了。一旦封鎖不再可行,網站營運者就得面對中介者一直以來造成的問題:網站無法直接取得使用者資訊,必須在缺乏這些資訊的情況下決定是否信任中介者。 

本文探討託管於使用者裝置以外位置的 Agent。本文主要主題不涵蓋本機 Agent(例如 OpenClaw)或在使用者自己的裝置、自己的瀏覽器中執行的 Agent(請參閱下文「關於開放原始碼與本機 Agent」)。

本文立基於一項原則:

中介原則:無論是否透過中介,使用者與網站之間的商業關係,以及各參與者的安全責任,都必須受到維護。

網站需要新的工具,才能像使用者直接造訪時一樣,辨識、服務並追究透過 Agent 行事的使用者責任。Agent 及其背後的營運商也必須能被辨識並負起責任,因為 Agent 能做到使用者做不到的事。Agent 幾乎能無限制地擴大人類的存取規模,因此會帶來新的風險,即使是過去無害的行為也不例外。

中介者問題

認識 Ezra。Ezra 在她居住的城市裡擔任個人助理。她最重要的客戶是當地的執行長 Amy,但她也為 Bob、Charlie 和 Debra 工作。她替他們跑腿:採買食品雜貨、安排約診、處理文書和訂機票。Ezra 混在人群之中,不引人注意。

以前,街角雜貨店的老闆認得 Amy。他知道她會買什麼,也會把他認為她可能喜歡的東西留給她。現在只有 Ezra 會進店,替四個人帶著購物清單來,老闆分不清各人的喜好。他不想拒絕 Ezra,因為她為他帶來不少生意。

接著 Bob 請 Ezra 幫他買一支 iPhone。一週後,他打電話給店家,說自己從未授權這筆款項,並留下手機。店家若要贏得這場爭議,就得證明是 Bob 要求買的。但店家見過的只有 Ezra。

接著 Charlie 給 Ezra 一份密碼清單:「我忘記密碼了,但應該是其中一組。」Ezra 耐心地逐一在 Charlie 的銀行嘗試。銀行看得出有人正在發動攻擊,但它唯一能封鎖的人只有 Ezra。封鎖 Ezra,也會一併封鎖 Amy、Bob 和 Debra。

這些企業主都不介意 Ezra 本人。他們的問題在於,只看得到 Ezra,卻看不到她代表誰行事。把 Ezra 換成 AI Agent、把企業換成網站,你看到的就是今天的網路。

網站經營者需要足夠的可見性,才能防止不當行為,並有效營利或從自家網站取得價值。但就像 Ezra 的例子一樣,AI Agent 會讓許多可見性消失。以下列出網站經營者可能想處理的行為;這些問題過去已能解決,但允許 Agent 介入後,處理起來會更困難。

在上述幾乎每一項挑戰中,主要成本都由網站承擔。當中介者介入時,信任的運作方式便會導致這種結果。

我們的願景

我們的目標是打造一個網際網路,讓所有使用者存取網站的許可權至少不低於以往。在 Agent 出現之前,網站通常能透過一系列技術降低這些風險,包括對使用者的裝置、工作階段和瀏覽記錄進行指紋辨識。使用者仍可透過無痕瀏覽模式瀏覽;我們相信 Agent 也應該能這麼做。但如果沒有額外驗證,它們大概無法登入銀行。

這一切都不要求 Agent 必須像人類一樣行動,也不要求每項操作都有人類在場。這只要求網站具備取得或要求使用者相關資訊的手段,以便在適用時追究其責任;無論是否有 Agent 介入,都一樣。

大家嘗試過的方法,以及它們為何行不通

一種常見的提議,是讓 Agent 將網站的 CAPTCHA 轉交給使用者解答。這只能證明當下有某個人在場(「人在迴路中」,或 HITL),僅此而已。HITL 主要是防止因不一致而造成錯誤的機制。不一致是操作者與使用者之間的問題;解決這個問題,並不能解決上述大多數問題。例如,它無法分辨 Bob 和其他人(流量混雜),也無法說明 Agent 在其他時間代表誰行事。此外,Agent 的目的在於減少摩擦,而 HITL 會重新增加摩擦,因此操作者有誘因替使用者移除或繞過這道流程。

另一個常見提議是使用範圍嚴格限定的存取控制。Agent 的設計目標是執行使用者能做的任何事,因此實際上它們會要求並取得所有許可權。「所有許可權」這種範圍對網站毫無幫助。即使範圍很窄,也只說明 Agent 獲準做什麼,並未說明 Agent 出錯時由誰負責,而這才是網站真正需要知道的事。

網路需要什麼

網路需要工具和通訊協定,讓網站與 Agent 能協力判定哪些行為和動作獲準,也能讓網站向 Agent 傳達偏好與政策,而且所有網站和 Agent 都能合理支援。值得慶幸的是,這些方面的工作都已經展開,其中許多問題,甚至可能是全部,都能透過套用現有標準來解決。

通訊協定

Agent 和網站可以透過明確的通訊協定,解決上述部分問題。例如,MOLE 是一種即將推出的方法,目標是在不使用使用者專屬識別碼的情況下進行速率限制,讓網站能從隱含識別轉嚮明確通訊協定,以達成相同目標。這與 x402 protocol 類似,該協定旨在讓網路付款成為可能,同時保護隱私。我們正積極探索如何運用現有通訊協定來處理其他問題,也在探索現有解決方案不足時設計新的通訊協定。

身分識別

談到 Agent 身分識別時,我們首選 Web Bot Auth(WBA)。WBA 讓 Agent 能為其請求簽章,提供安全的方式讓 Agent 表明身分(並間接表明營運者身分)。我們仍須定義一套支援多個中介者的機制:當 Agent A 在 Browser C 中使用 Agent B 時,網站必須能得知此事,才能正確理解並控管 Agent A 的存取行為,例如防止規避政策。

視情況而定,可能需要其他型別的識別資訊,例如工作階段、帳戶,甚至是使用者專屬 ID。我們正與相關標準組織合作,探索傳遞這類識別資訊的方法。

接著來看看與使用者相關的身分識別型別。歸根究柢,身分識別是一種光譜,在提供不同程度的使用者資訊之間取捨,同時理想上遵循資料最小化原則。身分識別提供一種機制,讓我們回答「你是誰?」,進而回答後續問題:「你真的是你所說的那個人嗎?」以及「我們能信任你嗎?」

許多情況下不需要識別資訊。Privacy Pass 和 MOLE 等保護隱私的 Agent 存取控管方式,能協助我們回答「我們能信任你嗎?」,而不必回答「你是誰?」Private Access Tokens 是我們早期嘗試在不識別使用者的情況下建立信任的方法之一,MOLE 則預計成為這項技術的後繼方案。不過,有些情況需要依照這個光譜逐步揭露資訊,大致可分為以下幾種:

  1. 不提供任何資訊 - 使用者在網路上行動時,可以不提供任何識別資訊。
  2. 工作階段 - 網站需要某種方式,將同一工作階段中的請求連結至單一代理程式。這樣網站就能為特定工作階段建立信譽,並據此採取行動。例如,Poppy 就有工作階段 ID 的概念,正是用於此目的。 
  3. 帳戶 - 網站需要一種方式,將不同工作階段中的請求歸屬於同一位使用者。這可能是由營運者或第三方指派給使用者的穩定識別碼,並且在使用者於該營運者處的帳戶存續期間持續有效;例如,同一個代理程式每天使用相同識別碼造訪同一個網站。這能實現的一個應用情境是:「將你的網站帳戶繫結至你的代理程式帳戶」。
  4. 唯一識別碼 - 某些網站可能需要由第三方核發、每位使用者專屬的識別碼,且此識別碼會跨營運者、帳戶、代理程式及工作階段持續有效。這對高風險操作,或需要限制昂貴資源存取許可權、或有嚴格義務與法規遵循要求的網站,可能很有用。政府核發的身分證件、第三方身分驗證,以及 Proof of Human 等去中心化技術,都是能提供此功能的技術範例。

最終,網站會決定需要哪些資訊,才能讓使用者端回答「這項請求背後的實體現在是否有權執行此操作?」在許多情況下,已經有現成或正在開發中的通訊協定,可用來傳遞這些資訊:WBA 用於傳遞代理程式的平臺身分、MOLE 用於傳遞使用者信譽、OAuth 用於傳遞帳戶身分,等等。

宣告

除了身分之外,某些操作還需要確認真實使用者的某項事實,例如年滿 18 歲或為持卡人(身分驗證失敗、友善詐欺)。通常,營運者會在註冊時驗證這項資訊,或是第三方已經持有這項資訊。 

若要讓代理程式能存取有此類限制的網站或執行受限操作,我們需要機制讓網站提出這些資訊的要求,並讓營運者或第三方提供這些資訊。

網站的代理程式存取政策

目前,代理程式會先嘗試操作,再解讀網站的回應(通常是看操作是否遭到封鎖),藉此推測網站規則。這會浪費雙方資源,有時還會讓誠實的代理程式看起來像是惡意程式。Robots.txt 會指出爬蟲可以前往哪些位置,但不完全適合用來表達代理程式可以執行哪些操作。

網站需要一種機器可讀的方式,來發布代理程式可執行的操作。網際網路工程任務組(IETF)正積極制定這方面的偏好表達機制,主要由 AI Preferences Working Group 負責。不過,該工作組的重點是表達使用偏好(例如訓練、推論及搜尋),目前仍沒有工作組專門處理本文所述更廣泛需求的偏好表達機制。

開放原始碼與本機代理程式

未以「中介者」身分執行的代理程式(例如裝置端代理程式,或 OpenClaw 等本機託管的代理程式)會帶來不同的疑慮。主要問題是,這些代理程式看起來像自動化程式(而且確實如此),也沒有單一責任方可以建立信譽或承擔責任。

有許多解決方法,其中一種是要求這些代理程式提供唯一 ID。不過,Trusted Agent Delegation 目前的首要工作並不包括處理這項問題。

接下來的發展

Sites 面臨的問題,無法靠零散且由供應商各自制定的機制找到實際可行的解決方案。這需要以實際經驗為基礎的開放、可互通標準。我們一直積極與整個生態系合作,現在也會持續下去,合作物件包括大型電信業者、身分驗證公司、支付服務供應商、商家、出版商、代理伺服器供應商及雲端瀏覽服務公司,讓實際營運需求能直接配合 IETF 等組織目前針對這些問題進行的工作 

我們致力於銜接可執行程式碼與各工作小組及相關活動中新興規格之間的落差,例如 Web Bot Auth、AIPREFs、OAuth、WIMSE 和 MOLE。我們部分透過共同撰寫並完善 WBA 和 MOLE 等開放協定,以及大規模建置和部署這些協定的實作來達成目標。

我們也宣佈成立 Trusted Agent Delegation (TAD) 聯盟。TAD 的目標是邀集生態系各方代表,討論本文提出的整體問題範疇、檢視所有現有協定,並視需要將定義更明確的問題提交給 IETF 討論。我們計劃在未來舉辦 IETF 會議周邊會議和工作坊,以促進交流。

如果你正在建置代理程式或代理程式執行環境、營運邊緣或雲端平臺,或管理商業或法規遵循應用程式及基礎架構,我們也需要你參與這些工作。請參閱此頁面,進一步瞭解如何參與。

你現在可以採取的行動

我們正朝向以 TAD 為起點,建立開放且可互通的基礎 。不過,你不必等新協定推出,就能開始重新掌握網站的可見度與控制權。截至本週,Cloudflare 客戶可以採取以下三項具體行動:

檢視有哪些代理程式造訪你的網站,以及它們在做什麼。Security Analytics 現在會將個人助理獨立列為一種流量類別,並新增小工具,列出每個造訪網站的代理程式、各自送出的要求數、造訪的路徑,以及遇到的錯誤。原本難以解釋的自動化流量,現在變得可以分析。若要更全面瞭解 AI 爬蟲和機器人對業務的影響,包括各營運商的爬取量與回傳流量,Enterprise Bot Management 客戶可以使用Business Insights。

為每個代理程式設定符合你需求的存取許可權。使用AI 爬蟲與代理程式存取政策,你可以接納能為你帶來業務的代理程式,並限制其他代理程式的存取許可權:允許某個代理程式存取整個網站、只封鎖它瀏覽含廣告的頁面,或完全封鎖它。搜尋與訓練政策仍可各自獨立設定。

將 Agent 與其代表的使用者連結起來,並據此採取行動。對於使用 帳戶濫用防護(搶先體驗)的網站,現在每次登入和註冊都會顯示是否由個人 Agent 發出請求,以及是哪個 Agent。當攻擊者濫用某個帳戶上的共用 Agent 時,你可以針對該帳戶採取緩解措施——使用其雜湊使用者 ID 設定 WAF 規則——而不必封鎖其他合法使用者共用的 Agent。這是對上文所述 流量混雜 挑戰的第一個具體回應:你終於可以穿透 Agent 看見使用者,並據此採取行動。

這些是實現此願景的第一批基礎元件,目前已投入正式環境。隨著標準日趨成熟,還會推出更多內容。

如果貴公司對 Agent 採取更嚴格的立場,我們很樂意聽聽你的想法。歡迎直接聯絡我們,分享你遇到的問題。我們希望協助打造一個網際網路,讓網站擁有者能掌握資訊並進行控管,同時也讓 Agent 在這些控管範圍內取得合理的最大存取許可權。你可以聯絡客戶支援團隊,或寄信至 crawlercontrols@cloudflare.com。

來源: cloudflare blog (blog.cloudflare.com)
開啟原文

讀者討論

理性交流 · 即時討論