跳到正文
aihot(aihot.news)· noreply@aihot.news (Claude:Blog)·· 10 天前精選品質評分75

Anthropic 說明常駐 AI 助理的五個架構要素

Anthropic 詳解常駐AI 助理的五個核心架構原語

重點導讀

常駐 AI 助理看起來一直線上,其實多半在休息,等事件到來才開始工作。

  • Anthropic 把背後的設計整理成五個部分:收件箱接住使用者訊息或其他事件,定時器安排稍後或定期工作,記憶儲存跨次工作需要的資訊,許可權管好無人看守時能做什麼,發件箱則負責把結果送給使用者。文章也說明,助理每次工作結束後會儲存進度並回到休息狀態。
  • 使用者回覆或定時器到期時,再由新事件喚醒它。這套架構讓工作能接續進行,也提醒設計者要控制許可權和訊息頻率。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

文章把常駐 AI 助理拆成收件箱、定時器、記憶、許可權與發件箱,說明事件如何喚醒工作並把結果送回使用者,提供可套用的架構脈絡。

正文

Claude:Blog·2026-11-13 08:00· 20 小時前精選AI 評分62

Building always-on agents

AI 導讀

Anthropic 釋出部落格,拆解常駐AI 助理(always-on agents)背後的架構。這類AI 助理有狀態且可主動行動,其興起得益於模型判斷力提升和智慧成本下降,例如長程編碼任務上 Opus 5.5 每解決一個任務的成本比 Opus 5 低 78%。

推薦理由

Anthropic 把常駐AI 助理拆成五個可落地的架構原語,並給出實現細節與最佳實踐,讀者可按此搭建自己的方案。

過去幾個月裡,常駐AI 助理(always-on agent)重新流行起來。

常駐AI 助理是有狀態、主動的,也就是說,它們能跨會話管理上下文,並在沒有直接監督的情況下采取行動。底層上,它們和其他AI 助理執行在同一個核心迴圈上。區別在於外圍架構:這套架構由若干基礎構件組成,用來控制AI 助理何時喚醒、每次執行之間保留什麼,以及它們的工作如何送達使用者。

這波回潮很大程度上源於近期的模型進步,讓常駐AI 助理執行起來更實際。首先,最新模型的判斷力更強:它們更能可靠地理解使用者意圖,也知道什麼時候該來確認一下。其次,智慧成本在下降,長週期任務受益最大。例如,在一個長週期程式設計基準上,Opus 5.5 每解決一個任務的花費比 Opus 5 低 78%,而典型工作負載下只低 40%。

客戶開始問我們,如何把這種體驗整合到自己的產品裡。有些公司想讓現有AI 助理更主動,另一些則打算從頭構建。

本文拆解常駐AI 助理背後的基礎構件,並說明它們如何協同工作。

常駐AI 助理的迴圈

常駐AI 助理其實並不是“常駐”。這只是對使用者體驗的一種描述。

實際上,AI 助理大部分時間都在休眠,定期醒來幹活。每一段工作稱為一次執行(run):AI 助理收到一個事件,完成任務,然後儲存發生了什麼。執行在會話(session)中進行,會話是訊息和工具呼叫的記錄。執行結束後,AI 助理重新休眠,這個迴圈無限重複。

Animated diagram of an always-on agent’s timeline: long stretches asleep with no tokens spent, broken by brief runs. Each run has four steps: an event arrives, a session starts, the agent loop runs, and the run writes back to stored state that carries over between runs.

核心基礎構件

常駐AI 助理的外圍架構有五個核心基礎構件:事件收件箱、定時器、記憶、許可權和發件箱。下面逐一來看。

事件收件箱

大多數 AI 助理只在使用者發訊息時執行。相比之下,常駐AI 助理可以由多種事件觸發,包括 webhook、定時任務和後臺作業。

一種誘人的做法是讓每個事件源直接呼叫AI 助理,但這有幾種失敗模式。例如,兩個事件同時到達,可能啟動相互競爭的執行;一次崩潰則可能徹底丟失一個事件。

這就是事件收件箱的用武之地。每個來源不直接呼叫AI 助理,而是把事件傳送到收件箱,由工作程序取走處理。

最簡單的版本包含三個元件:

  • 一份持久化的事件列表,通常是一張資料庫表;
  • 一個處理器,通常是 HTTP 端點,負責把事件寫入列表;以及
  • 一個工作程序,通常是後臺服務,負責從列表中讀取。

收件箱應跟蹤每個事件的狀態,並可根據來源提供的唯一識別符號對事件去重。關係型資料庫很適合做收件箱,每個事件作為新行追加。我們建議先從每個使用者一個收件箱開始,如果需要更高並行度,可以進一步拆分。

Diagram of the event inbox. A handler (an HTTP endpoint) writes each event to the inbox, a database table that tracks status and drops duplicates, and wakes the worker. The worker reads what’s pending, starts the run, waits for it to finish, and marks the events done.

新事件到來時,處理器把事件寫入收件箱並喚醒工作程序。工作程序讀取所有待處理事件,啟動一次執行。延續先前工作的事件(例如使用者的回覆)會恢復現有會話,其他事件則開啟新會話。

隨後,worker 把事件交給AI 助理迴圈,等待本次執行結束,再把對應事件標記為已完成。具體實現有不少門道,下面列出幾條最佳實踐:

  • 處理程序應當儘快確認收到事件。有些來源(比如 webhook 提供方)會把響應慢當成失敗。處理程序仍可做輕量檢查,但更深入的校驗(例如檢查提示詞注入)應放到執行階段完成。
  • 收件箱應當作為唯一可信來源。worker 被喚醒後,應先從收件箱拉取最新事件。這樣即使 worker 在執行中途掛掉,新起的 worker 也能拿到同一個事件並重試。
  • 一個收件箱同一時間只應有一個活躍 worker。這樣可以避免兩次執行重複幹活或互相覆蓋。如果執行中途來了新事件,你可以把它推到下一輪執行、併入當前執行,或者中斷當前執行重新開始。
  • worker 應把待處理事件批次合併。例如使用者連續發來幾條訊息,worker 可以把它們合併成一次執行,AI 助理只需回覆一次。

定時器

定時器與事件收件箱配合,讓常駐AI 助理具備主動性。定時器一般分兩類:跟進和日程。跟進是AI 助理給自己設的截止時間,比如到點去檢視某個回覆;日程則是按固定節奏重複執行的任務,比如每日簡報。

定時器存放在自己獨立的持久化儲存裡,通常是另一張資料庫表,與收件箱分開。收件箱只應存放已經可以處理的事件。跟進和日程可以共用相似的 schema,但日程還需要額外記錄重複規則。

Diagram of timers. A run sets a timer in a database table, either a follow-up set by the agent or a schedule set by the user. A scheduler finds what’s due and adds an event to the event inbox, which starts the next run.

定時器本身不會發起執行。真正幹活的是排程器,通常是一個後臺服務,它按固定間隔輪詢儲存,把到期的定時器觸發出去。每一輪排程中,排程器會:

  1. 掃描儲存,找出已到期的定時器。
  2. Updates each timer based on its category.
    1. 跟進類定時器應標記為已完成。
    2. 日程類定時器應把到期時間更新為下一次觸發時間。
  3. 向收件箱新增一個事件,並喚醒 worker。

排程器可以自己寫一個服務,也可以直接用持久化執行引擎。

記憶

常駐AI 助理要跨越許多彼此獨立的執行,靠記憶來保持連續性。

和事件收件箱、定時器一樣,記憶也應有自己的儲存。在我們的產品裡,比如 Claude Code 的 auto memory 和 Messages API 的 memory tool,記憶被實現為一個檔案目錄。對常駐AI 助理來說,這些目錄應對映到持久化儲存,通常是資料庫或物件儲存,這樣記憶的生命週期就能長於 worker。

一條經驗法則是:記憶只應儲存AI 助理無法再次查到的東西。如果某些資訊已經存在於其他系統(比如問題跟蹤器),那就存一個指標即可。下面是常駐AI 助理應當儲存的記憶型別:

  • 使用者指令:使用者關於AI 助理行為的任何指令都應單獨存成一個檔案,並在每次執行開始時載入。使用者不會總在旁邊給AI 助理指方向,所以這些指令必須能跨執行延續下去。
  • 使用者筆記:AI 助理應當儲存它瞭解到的使用者資訊,比如使用者的角色、偏好,或者使用者給出的糾正。你可以先從一個檔案開始,隨著筆記增多再拆成多個小檔案。拆成多個檔案後,每次執行開始時只加載一個索引,需要更多細節時AI 助理再把對應的單個檔案拉進上下文。
  • 歷史訊息:AI 助理應當記錄自己已經告訴過使用者什麼,避免重複。它可以把它存進一個單獨的檔案,在每次執行開始時載入;也可以讓執行單元載入AI 助理與使用者最近幾條訊息。
  • 任務進度:對每個進行中的任務,AI 助理應當維護一個進度檔案,記錄已完成和待完成的部分。這樣任何一次新的執行都能讀取該檔案,從上次中斷的地方接著做。和使用者筆記類似,每次執行開始時只加載索引,需要更多細節時AI 助理再把單個檔案拉進上下文。

下圖展示了一種示例配置。

Diagram of an example memory setup as a directory of files. instructions.md, index.md, and reported.md are loaded at the start of every run, while the notes/ and progress/ folders are read when needed. The agent writes to memory during the run.

以上說的都是執行期間儲存的記憶。你還可以加入“做夢”機制,回顧過去的會話以整理記憶。做夢可以替換過時的條目,並發現只有跨多次執行才會顯現的規律。如果想了解更多,我們的AI 助理記憶文章有更詳細的介紹。

上下文視窗內部

在開始任何工作之前,AI 助理會載入系統提示詞、工具定義和記憶檔案。這部分初始上下文的“開銷”會包含在每次執行中,所以我們建議保持精簡,並使用提示詞快取來降低成本。

新會話開始時只有這部分上下文開銷,以及觸發本次執行的事件。而已有會話則會帶回它此前各次執行中的訊息和工具呼叫。

如果會話變得過長,你可以壓縮較早的訊息,或者開啟一個新會話。這兩種做法都會丟失細節,所以任何需要長期保留的內容都應當隨時寫入記憶。

Animated chart of context used over time. A fixed band for the system prompt, tools, and memory is present on every run. An existing session brings back its whole transcript and grows until compaction turns the older transcript into a summary.

許可權

許可權是常駐AI 助理風險最大的地方。一次執行持有使用者的訪問許可權,而且按設計是在無人值守的情況下運作。對每次工具呼叫,AI 助理都需要判斷是自己繼續執行、阻止,還是等待批准。

許可權相關的元件與其他AI 助理所用的相同:

  • 憑據儲存:常駐AI 助理往往需要密碼或訪問令牌這類敏感的使用者憑據才能發揮作用。推薦的做法是在AI 助理環境之外設一個代理,由它給對外請求加上憑據。AI 助理傳送不帶憑據的請求,代理在轉發前注入真實憑據。
  • 自動模式:常駐AI 助理應當能在沒有使用者持續輸入的情況下工作。我們已經在 Claude Code 的自動模式中處理過這類問題的一個版本。自動模式用分類器審查風險較高的操作,攔截被判定為危險的操作,讓 Claude 能找到更安全的做法。不過,最重要的決策仍然需要使用者稽核。
  • 延遲工具呼叫:在 Claude Code 中,鉤子可以延遲一次工具呼叫,等待使用者提供更多輸入。同樣的模式也適用於常駐AI 助理:它們在執行某些操作前,可能需要使用者澄清或批准。呼叫被延遲時,本次執行結束,會話在呼叫中途儲存。請求會展示給使用者(例如通過用 MCP Apps 構建的互動式卡片),使用者的回答則以事件形式回到收件箱。該事件會啟動一次新的執行,帶著使用者的輸入恢復已儲存的會話。在延遲呼叫等待響應期間,工作程序可以繼續處理其他事件,因此AI 助理不會被阻塞。

發件箱

大多數 AI 助理在生成回覆時會即時流式輸出給使用者,讓使用者能跟隨 Claude 一步步推理問題、呼叫工具並寫出答案。

而常駐AI 助理的大部分工作都在後臺完成。使用者拿到的是結果和少量細節,而不是完整的逐步過程。

Diagram of the outbox. A run ends with nothing to say, a send tool call, or a deferred tool call that asks the user. Messages go to the outbox, a database table, and a dispatcher delivers them to the user. A deferred request can go through the outbox or be shown in your own interface.

一次執行可能以三種方式之一結束:

  • AI 助理向發件箱傳送一條訊息;
  • AI 助理判斷無需傳送任何內容;
  • AI 助理通過延遲工具呼叫來請求許可權或補充輸入。

大多數常駐AI 助理用一個“傳送”工具直接把訊息送達使用者就夠了。只有當你需要控制AI 助理發訊息的節奏,或讓AI 助理從錯誤中恢復時,才需要正式的發件箱。

發件箱是一張單獨存放待發訊息的表,對應事件收件箱。此外還有一個排程器,通常是後臺服務,對應工作程序。排程器讀取待發訊息,決定投遞哪些,再把它們傳送給使用者。延遲工具呼叫發出的請求既可以走發件箱,也可以直接在介面中展示。

除了投遞,調節AI 助理傳送訊息的數量也很重要。發得太多會變得吵鬧,發得太少又會漏掉使用者需要知道的事情。我們建議通過構建評估來找到合適的平衡點。實踐中,AI 助理最好一開始保持安靜,再逐步贏得使用者更多的關注。

各部分如何協同

以下是五個基礎元件如何組合在一起:

Animated diagram of how the five primitives fit together. Timers and the event inbox start a run, the run works with memory and permissions inside a session, and the outbox delivers messages to the user, whose answer comes back as an event.

每次執行都始於收件箱中的一個事件,無論是使用者訊息、webhook 還是定時器。工作程序取到事件後,就啟動一次執行,在新的或已有的會話中喚醒AI 助理。AI 助理讀取記憶以獲得基線,在許可權範圍內執行操作,然後把學到的東西更新到記憶中。執行結束後,AI 助理向發件箱寫入一行記錄,由排程器把訊息投遞給使用者。

這些環節共同構成一個迴圈。一次執行可以設定定時器,稍後再次喚醒AI 助理;當用戶回覆訊息時,其回答又會作為事件回到收件箱。每次執行都很短暫,但這個迴圈會一直持續下去,這正是AI 助理讓人感覺始終線上的原因。

致謝

作者:William Hu。特別感謝 Rodrigo Olivares 和 Michael Segner 的貢獻。

來源:Claude:Blog · claude.com

事件後續 · 1

檢視事件全部

來源: aihot (aihot.news)
開啟原文

讀者討論

理性交流 · 即時討論