Anthropic 說明常駐 AI 助理的五個架構要素
Anthropic 詳解常駐AI 助理的五個核心架構原語
常駐 AI 助理看起來一直線上,其實多半在休息,等事件到來才開始工作。
- Anthropic 把背後的設計整理成五個部分:收件箱接住使用者訊息或其他事件,定時器安排稍後或定期工作,記憶儲存跨次工作需要的資訊,許可權管好無人看守時能做什麼,發件箱則負責把結果送給使用者。文章也說明,助理每次工作結束後會儲存進度並回到休息狀態。
- 使用者回覆或定時器到期時,再由新事件喚醒它。這套架構讓工作能接續進行,也提醒設計者要控制許可權和訊息頻率。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
文章把常駐 AI 助理拆成收件箱、定時器、記憶、許可權與發件箱,說明事件如何喚醒工作並把結果送回使用者,提供可套用的架構脈絡。
Claude:Blog·2026-11-13 08:00· 20 小時前精選AI 評分62
Building always-on agents
AI 導讀
Anthropic 釋出部落格,拆解常駐AI 助理(always-on agents)背後的架構。這類AI 助理有狀態且可主動行動,其興起得益於模型判斷力提升和智慧成本下降,例如長程編碼任務上 Opus 5.5 每解決一個任務的成本比 Opus 5 低 78%。
推薦理由
Anthropic 把常駐AI 助理拆成五個可落地的架構原語,並給出實現細節與最佳實踐,讀者可按此搭建自己的方案。
過去幾個月裡,常駐AI 助理(always-on agent)重新流行起來。
常駐AI 助理是有狀態、主動的,也就是說,它們能跨會話管理上下文,並在沒有直接監督的情況下采取行動。底層上,它們和其他AI 助理執行在同一個核心迴圈上。區別在於外圍架構:這套架構由若干基礎構件組成,用來控制AI 助理何時喚醒、每次執行之間保留什麼,以及它們的工作如何送達使用者。
這波回潮很大程度上源於近期的模型進步,讓常駐AI 助理執行起來更實際。首先,最新模型的判斷力更強:它們更能可靠地理解使用者意圖,也知道什麼時候該來確認一下。其次,智慧成本在下降,長週期任務受益最大。例如,在一個長週期程式設計基準上,Opus 5.5 每解決一個任務的花費比 Opus 5 低 78%,而典型工作負載下只低 40%。
客戶開始問我們,如何把這種體驗整合到自己的產品裡。有些公司想讓現有AI 助理更主動,另一些則打算從頭構建。
本文拆解常駐AI 助理背後的基礎構件,並說明它們如何協同工作。
常駐AI 助理的迴圈
常駐AI 助理其實並不是“常駐”。這只是對使用者體驗的一種描述。
實際上,AI 助理大部分時間都在休眠,定期醒來幹活。每一段工作稱為一次執行(run):AI 助理收到一個事件,完成任務,然後儲存發生了什麼。執行在會話(session)中進行,會話是訊息和工具呼叫的記錄。執行結束後,AI 助理重新休眠,這個迴圈無限重複。

核心基礎構件
常駐AI 助理的外圍架構有五個核心基礎構件:事件收件箱、定時器、記憶、許可權和發件箱。下面逐一來看。
事件收件箱
大多數 AI 助理只在使用者發訊息時執行。相比之下,常駐AI 助理可以由多種事件觸發,包括 webhook、定時任務和後臺作業。
一種誘人的做法是讓每個事件源直接呼叫AI 助理,但這有幾種失敗模式。例如,兩個事件同時到達,可能啟動相互競爭的執行;一次崩潰則可能徹底丟失一個事件。
這就是事件收件箱的用武之地。每個來源不直接呼叫AI 助理,而是把事件傳送到收件箱,由工作程序取走處理。
最簡單的版本包含三個元件:
- 一份持久化的事件列表,通常是一張資料庫表;
- 一個處理器,通常是 HTTP 端點,負責把事件寫入列表;以及
- 一個工作程序,通常是後臺服務,負責從列表中讀取。
收件箱應跟蹤每個事件的狀態,並可根據來源提供的唯一識別符號對事件去重。關係型資料庫很適合做收件箱,每個事件作為新行追加。我們建議先從每個使用者一個收件箱開始,如果需要更高並行度,可以進一步拆分。

新事件到來時,處理器把事件寫入收件箱並喚醒工作程序。工作程序讀取所有待處理事件,啟動一次執行。延續先前工作的事件(例如使用者的回覆)會恢復現有會話,其他事件則開啟新會話。
隨後,worker 把事件交給AI 助理迴圈,等待本次執行結束,再把對應事件標記為已完成。具體實現有不少門道,下面列出幾條最佳實踐:
- 處理程序應當儘快確認收到事件。有些來源(比如 webhook 提供方)會把響應慢當成失敗。處理程序仍可做輕量檢查,但更深入的校驗(例如檢查提示詞注入)應放到執行階段完成。
- 收件箱應當作為唯一可信來源。worker 被喚醒後,應先從收件箱拉取最新事件。這樣即使 worker 在執行中途掛掉,新起的 worker 也能拿到同一個事件並重試。
- 一個收件箱同一時間只應有一個活躍 worker。這樣可以避免兩次執行重複幹活或互相覆蓋。如果執行中途來了新事件,你可以把它推到下一輪執行、併入當前執行,或者中斷當前執行重新開始。
- worker 應把待處理事件批次合併。例如使用者連續發來幾條訊息,worker 可以把它們合併成一次執行,AI 助理只需回覆一次。
定時器
定時器與事件收件箱配合,讓常駐AI 助理具備主動性。定時器一般分兩類:跟進和日程。跟進是AI 助理給自己設的截止時間,比如到點去檢視某個回覆;日程則是按固定節奏重複執行的任務,比如每日簡報。
定時器存放在自己獨立的持久化儲存裡,通常是另一張資料庫表,與收件箱分開。收件箱只應存放已經可以處理的事件。跟進和日程可以共用相似的 schema,但日程還需要額外記錄重複規則。

定時器本身不會發起執行。真正幹活的是排程器,通常是一個後臺服務,它按固定間隔輪詢儲存,把到期的定時器觸發出去。每一輪排程中,排程器會:
- 掃描儲存,找出已到期的定時器。
- Updates each timer based on its category.
- 跟進類定時器應標記為已完成。
- 日程類定時器應把到期時間更新為下一次觸發時間。
- 向收件箱新增一個事件,並喚醒 worker。
排程器可以自己寫一個服務,也可以直接用持久化執行引擎。
記憶
常駐AI 助理要跨越許多彼此獨立的執行,靠記憶來保持連續性。
和事件收件箱、定時器一樣,記憶也應有自己的儲存。在我們的產品裡,比如 Claude Code 的 auto memory 和 Messages API 的 memory tool,記憶被實現為一個檔案目錄。對常駐AI 助理來說,這些目錄應對映到持久化儲存,通常是資料庫或物件儲存,這樣記憶的生命週期就能長於 worker。
一條經驗法則是:記憶只應儲存AI 助理無法再次查到的東西。如果某些資訊已經存在於其他系統(比如問題跟蹤器),那就存一個指標即可。下面是常駐AI 助理應當儲存的記憶型別:
- 使用者指令:使用者關於AI 助理行為的任何指令都應單獨存成一個檔案,並在每次執行開始時載入。使用者不會總在旁邊給AI 助理指方向,所以這些指令必須能跨執行延續下去。
- 使用者筆記:AI 助理應當儲存它瞭解到的使用者資訊,比如使用者的角色、偏好,或者使用者給出的糾正。你可以先從一個檔案開始,隨著筆記增多再拆成多個小檔案。拆成多個檔案後,每次執行開始時只加載一個索引,需要更多細節時AI 助理再把對應的單個檔案拉進上下文。
- 歷史訊息:AI 助理應當記錄自己已經告訴過使用者什麼,避免重複。它可以把它存進一個單獨的檔案,在每次執行開始時載入;也可以讓執行單元載入AI 助理與使用者最近幾條訊息。
- 任務進度:對每個進行中的任務,AI 助理應當維護一個進度檔案,記錄已完成和待完成的部分。這樣任何一次新的執行都能讀取該檔案,從上次中斷的地方接著做。和使用者筆記類似,每次執行開始時只加載索引,需要更多細節時AI 助理再把單個檔案拉進上下文。
下圖展示了一種示例配置。

以上說的都是執行期間儲存的記憶。你還可以加入“做夢”機制,回顧過去的會話以整理記憶。做夢可以替換過時的條目,並發現只有跨多次執行才會顯現的規律。如果想了解更多,我們的AI 助理記憶文章有更詳細的介紹。
上下文視窗內部
在開始任何工作之前,AI 助理會載入系統提示詞、工具定義和記憶檔案。這部分初始上下文的“開銷”會包含在每次執行中,所以我們建議保持精簡,並使用提示詞快取來降低成本。
新會話開始時只有這部分上下文開銷,以及觸發本次執行的事件。而已有會話則會帶回它此前各次執行中的訊息和工具呼叫。
如果會話變得過長,你可以壓縮較早的訊息,或者開啟一個新會話。這兩種做法都會丟失細節,所以任何需要長期保留的內容都應當隨時寫入記憶。

許可權
許可權是常駐AI 助理風險最大的地方。一次執行持有使用者的訪問許可權,而且按設計是在無人值守的情況下運作。對每次工具呼叫,AI 助理都需要判斷是自己繼續執行、阻止,還是等待批准。
許可權相關的元件與其他AI 助理所用的相同:
- 憑據儲存:常駐AI 助理往往需要密碼或訪問令牌這類敏感的使用者憑據才能發揮作用。推薦的做法是在AI 助理環境之外設一個代理,由它給對外請求加上憑據。AI 助理傳送不帶憑據的請求,代理在轉發前注入真實憑據。
- 自動模式:常駐AI 助理應當能在沒有使用者持續輸入的情況下工作。我們已經在 Claude Code 的自動模式中處理過這類問題的一個版本。自動模式用分類器審查風險較高的操作,攔截被判定為危險的操作,讓 Claude 能找到更安全的做法。不過,最重要的決策仍然需要使用者稽核。
- 延遲工具呼叫:在 Claude Code 中,鉤子可以延遲一次工具呼叫,等待使用者提供更多輸入。同樣的模式也適用於常駐AI 助理:它們在執行某些操作前,可能需要使用者澄清或批准。呼叫被延遲時,本次執行結束,會話在呼叫中途儲存。請求會展示給使用者(例如通過用 MCP Apps 構建的互動式卡片),使用者的回答則以事件形式回到收件箱。該事件會啟動一次新的執行,帶著使用者的輸入恢復已儲存的會話。在延遲呼叫等待響應期間,工作程序可以繼續處理其他事件,因此AI 助理不會被阻塞。
發件箱
大多數 AI 助理在生成回覆時會即時流式輸出給使用者,讓使用者能跟隨 Claude 一步步推理問題、呼叫工具並寫出答案。
而常駐AI 助理的大部分工作都在後臺完成。使用者拿到的是結果和少量細節,而不是完整的逐步過程。

一次執行可能以三種方式之一結束:
- AI 助理向發件箱傳送一條訊息;
- AI 助理判斷無需傳送任何內容;
- AI 助理通過延遲工具呼叫來請求許可權或補充輸入。
大多數常駐AI 助理用一個“傳送”工具直接把訊息送達使用者就夠了。只有當你需要控制AI 助理發訊息的節奏,或讓AI 助理從錯誤中恢復時,才需要正式的發件箱。
發件箱是一張單獨存放待發訊息的表,對應事件收件箱。此外還有一個排程器,通常是後臺服務,對應工作程序。排程器讀取待發訊息,決定投遞哪些,再把它們傳送給使用者。延遲工具呼叫發出的請求既可以走發件箱,也可以直接在介面中展示。
除了投遞,調節AI 助理傳送訊息的數量也很重要。發得太多會變得吵鬧,發得太少又會漏掉使用者需要知道的事情。我們建議通過構建評估來找到合適的平衡點。實踐中,AI 助理最好一開始保持安靜,再逐步贏得使用者更多的關注。
各部分如何協同
以下是五個基礎元件如何組合在一起:

每次執行都始於收件箱中的一個事件,無論是使用者訊息、webhook 還是定時器。工作程序取到事件後,就啟動一次執行,在新的或已有的會話中喚醒AI 助理。AI 助理讀取記憶以獲得基線,在許可權範圍內執行操作,然後把學到的東西更新到記憶中。執行結束後,AI 助理向發件箱寫入一行記錄,由排程器把訊息投遞給使用者。
這些環節共同構成一個迴圈。一次執行可以設定定時器,稍後再次喚醒AI 助理;當用戶回覆訊息時,其回答又會作為事件回到收件箱。每次執行都很短暫,但這個迴圈會一直持續下去,這正是AI 助理讓人感覺始終線上的原因。
致謝
作者:William Hu。特別感謝 Rodrigo Olivares 和 Michael Segner 的貢獻。
來源:Claude:Blog · claude.com