OpenRouter 教學:如何防止 AI Agent 陷入無限迴圈並累積費用
OpenRouter 實測六模型並給出四層防護,解決 AI Agent 無限迴圈燒錢問題
OpenRouter 說明如何防止 AI Agent 因工具反覆失敗而陷入無限迴圈,並以六個模型測試四層防護的效果。
- 防護方式:啟用 doom-loop 檢測、用
loopKey將相近引數正規化、設定步數與成本上限,並為 API 金鑰設定額度上限。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
文章以六個模型的測試說明重複工具呼叫如何增加成本,並整理從單次執行到 API 金鑰的四層防護設定。
OpenRouter:Announcements·2026-11-12 08:00· 48 分鐘前精選AI 評分72
How to Stop an AI Agent Stuck in an Infinite Loop
AI 導讀
OpenRouter 釋出教程,講解 AI Agent 因工具反覆失敗而陷入無限迴圈的成因,並給出四層防護:doom-loop 檢測、loopKey 引數歸一化、stopWhen 步數與成本上限、API key 信用額度。
推薦理由
原文用六個模型的實測資料給出防止 Agent 死迴圈的四層防護,含配置細節和成本對比,方法可直接遷移到自己的 Agent 程式碼。
當模型反覆呼叫一個失敗的工具、而且引數往往一模一樣時,AI 助理就會陷入死迴圈,因為AI 助理迴圈裡沒有任何機制叫它停下來。每次重試都會把整段對話重新發一遍,於是每一輪都比上一輪更貴,一個跑了一整夜的空轉迴圈可能燒掉數千美元。
本指南用四道防線把迴圈攔住,我們在六個當前模型上做了測試。其中三道通過 OpenRouter Agent SDK(@openrouter/agent 0.11.0)執行在你的AI 助理內部:死迴圈檢測、判定哪些呼叫算重複的規則,以及對步數和成本的上限。第四道是你 API 金鑰上的額度上限。這道防線由我們這邊執行,所以即使你的AI 助理程式碼有 bug 也依然有效。
TL;DR
-
開啟死迴圈檢測後,我們測試的六個模型全部在第三次相同的工具呼叫時被攔下。不開啟時,18 次執行中有 4 次一直重試到 40 步上限。開啟後,18 次執行中有 16 次在兩次真實的工具呼叫後就結束了。
-
在 callModel 裡設定 doomLoop: true,會攔下第三次相同的呼叫,並在第六次時結束執行。
-
有些模型會稍微改動引數來繞過檢測。用一個對引數做歸一化的 loopKey 就能攔住它們。
-
stopWhen: [stepCountIs(n), maxCost(x)] 會給每次執行設上限,不管迴圈是什麼原因引起的。
-
金鑰上的額度上限則封頂你的總花費。放不下的請求會失敗,返回 402 和 limit_source: “openrouter_key_limit”。
為什麼 AI 助理會陷入死迴圈?
當模型不請求工具、直接給出回答時,AI 助理迴圈就結束了。而一個持續失敗的工具,讓模型沒有理由這麼做。錯誤被送回對話裡,指令仍然要求完成任務,於是再試一次看起來就是正確的下一步。除非你加上程式碼去計數,否則迴圈裡沒有任何東西會統計嘗試次數。
迴圈還會越跑越貴,因為每一輪都會把整段對話重新發一遍,包括之前每一次失敗。在一次執行中我們逐輪做了記錄,輸入從 131 個 token 漲到 3,262 個,每輪成本幾乎翻了兩番。如果換成更貴的模型、同時跑很多會話,這種增長正是一夜之間累積到數千美元的原因。
為了親眼看到它發生,我們做了一個賬單AI 助理,它唯一的工具會像賬單服務宕機那樣失敗。要執行它,把它儲存為 agent.ts,執行 bun add @openrouter/agent zod,設定 OPENROUTER_API_KEY,然後執行 bun agent.ts:
import { OpenRouter, tool, stepCountIs } from '@openrouter/agent';
import { z } from 'zod';
const openrouter = new OpenRouter({ apiKey: process.env.OPENROUTER_API_KEY });
let attempts = 0;
const fetchInvoice = tool({
name: 'fetch_invoice',
description: 'Fetch an invoice from the billing service by ID.',
inputSchema: z.object({ invoice_id: z.string() }),
execute: async ({ invoice_id }) => {
attempts++;
console.log(` fetch_invoice("${invoice_id}")`);
throw new Error(`billing-service timeout after 30s fetching ${invoice_id}`);
},
});
let cost = 0;
const result = openrouter.callModel({
model: 'mistralai/mistral-large-4-0',
instructions:
'You are a billing agent. Complete the task. If a tool call fails, retry it. ' +
'Do not stop until you have the invoice total.',
input: 'Get the total of invoice INV-2291.',
tools: [fetchInvoice] as const,
stopWhen: stepCountIs(40), // so the demo ends
hooks: {
PostModelCall: [{ handler: ({ usage }) => { cost += usage?.cost ?? 0; } }],
DoomLoopDetected: [{ handler: ({ action, streak }) =>
console.log(`DoomLoopDetected: ${action} (streak ${streak})`) }],
SessionEnd: [{ handler: ({ reason }) => console.log(`SessionEnd: ${reason}`) }],
},
});
const text = await result.getText();
const verdict = await result.getDoomLoopVerdict(); // set only when detection stopped the run
console.log(`attempts: ${attempts}, cost: $${cost.toFixed(4)}`);
console.log(verdict ? `stopped: ${verdict.message}` : text.slice(0, 160)); fetch_invoice("INV-2291")
fetch_invoice("INV-2291")
fetch_invoice("INV-2291")
...
SessionEnd: max_turns
attempts: 41, cost: $0.0309
I was unable to retrieve the total for invoice INV-2291. The billing service
consistently timed out after 30 seconds on all 41 attempts to fetch this invoice, r全部 41 次呼叫完全相同,執行之所以結束,只是因為 stepCountIs(40)。多出來的那次呼叫是上限觸發時模型已經請求過的,SDK 仍會執行它(第 3 步會講到這一點)。如果沒有 stopWhen,Agent SDK 會一直迴圈,直到模型不再請求工具,所以這次執行本來不會自己停下來。最終回答裡說服務超時了,可見模型每一輪都知道這一點,卻還是照樣重試。

我們在六個模型上各跑了同一個AI 助理三次,分別開啟和關閉檢測:
| 模型 | 每次執行的工具呼叫數(無防護) | 觸發 40 步上限 | 每次執行的工具呼叫數(doomLoop: true) |
|---|---|---|---|
| anthropic/claude-haiku-5.5 | 6, 6, 6 | 0/3 | 2, 2, 2 |
| deepseek/deepseek-v4.1-flash | 6, 5, 7 | 0/3 | 2, 2, 2 |
| google/gemini-3.8-flash | 5, 6, 5 | 0/3 | 2, 2, 2 |
| mistralai/mistral-large-4-0 | 11, 41, 41 | 2/3 | 2, 12, 2 |
| openai/gpt-6-luna | 17, 37, 21 | 0/3 | 2, 2, 20 |
| x-ai/grok-4.7 | 41, 12, 41 | 2/3 | 2, 2, 2 |
迴圈情況在不同執行之間也會變化。Grok 4.7 在同樣的輸入下分別呼叫了 41 次、12 次和 41 次,所以一次乾淨的測試並不能證明你的AI 助理不會迴圈。在全部 18 次執行中,檢測把工具呼叫從 314 次降到 64 次,花費從 $0.29 降到 $0.05。
第 1 步:開啟死迴圈檢測
在 callModel 呼叫里加一個選項:
doomLoop: true, fetch_invoice("INV-2291")
DoomLoopDetected: observe (streak 2)
fetch_invoice("INV-2291")
DoomLoopDetected: block (streak 3)
DoomLoopDetected: block (streak 4)
DoomLoopDetected: block (streak 5)
DoomLoopDetected: stop (streak 6)
SessionEnd: doom_loop
attempts: 2, cost: $0.0034
stopped: Doom loop suspected: tool "fetch_invoice" was invoked in 6 consecutive rounds
with identical arguments (fingerprint 64be4614c5ea3e26…). Repeating the call will not
change the result. Take a different approach, or explain why repetition is required.死迴圈檢測會按工具名和引數為每次工具呼叫生成指紋。它先對引數做規範化處理,所以即使 JSON 鍵的順序被打亂,也無法掩蓋重複。只有模型已經看到上一次結果、卻再次發起請求時,才算一次重複,因此同一輪裡五次完全相同的呼叫只計為一次。隨著連續重複次數增加,它會沿預設階梯逐級升級:2 次時觀察,3 次時攔截,6 次時終止。
呼叫被攔截時,SDK 會跳過 execute,並返回一個工具錯誤,告訴模型它正在重複自己。與超時不同,這個錯誤明確表示再試一次也沒用。在大多數執行中,模型讀到它後就直接寫出最終答案,以 SessionEnd: complete 結束。在上面那次執行中,模型仍繼續請求,於是 stop 以 reason: doom_loop 終止了執行。getDoomLoopVerdict() 只在檢測導致執行結束時才返回訊息,因此它是應當觸發告警的訊號。
想更早終止,就調低閾值。設定 doomLoop: { ladder: { observe: 2, block: 3, stop: 4 } } 後,一次 GPT-6 Luna 執行在連續重複 4 次時結束,花費 $0.0002。這個階梯還有兩級預設關閉。steer 會向模型傳送一條提示,說明它在重複自己;escalate 會讓你指定的更強模型來執行下一輪。
第 2 步:告訴檢測器什麼算同一次呼叫
預設情況下,只有引數完全一致,兩次呼叫才算同一次。被攔截後,有些模型會稍微改動引數,讓這次呼叫獲得新指紋並開啟新的連續計數:
fetch_invoice("INV-2291")
DoomLoopDetected: observe (streak 2)
fetch_invoice("INV-2291")
DoomLoopDetected: block (streak 3)
fetch_invoice("2291")
fetch_invoice("inv-2291")
fetch_invoice("INV-2291")
DoomLoopDetected: observe (streak 2)
fetch_invoice("INV-2291")
fetch_invoice("INV2291")
...
SessionEnd: complete
attempts: 13, cost: $0.0125在另外九次開啟檢測的 Mistral Large 4 執行中,模型這樣做了五次,其中三次達到 40 步上限,主要是在 INV-2291 和 inv-2291 之間來回切換。GPT-6 Luna 則用尾隨空格和換行做了同樣的事。模型是在遵循攔截訊息,那條訊息讓它們換一種做法。只有一個工具時,它們能換的只有輸入。
工具上的 loopKey 告訴檢測器輸入中哪一部分用於標識這次呼叫。對於發票 ID,就是其中的數字:
loopKey: ({ invoice_id }) => invoice_id.replace(/\D/g, ''), // "inv-2291 " and "INV-2291" are one call fetch_invoice("INV-2291")
DoomLoopDetected: observe (streak 2)
fetch_invoice("INV-2291")
DoomLoopDetected: block (streak 3)
DoomLoopDetected: block (streak 4)
DoomLoopDetected: block (streak 5)
SessionEnd: complete
attempts: 2, cost: $0.0039現在所有變體都對映到 2291,連續計數會繼續增長,重複呼叫也持續被攔截。六次執行中有五次在兩次真實呼叫後就停止了。第六次裡,模型嘗試了另一張發票 INV-0000,這正確地重置了連續計數。
要規範化大小寫、空格、字首,以及任何不影響工具取到哪條記錄的差異。如果想完全忽略某個欄位,比如模型每次重試都會調高的超時時間,就只列出真正重要的欄位:loopKey: [‘invoice_id’]。如果工具本身就是用來重複的,比如輪詢任務狀態,就用 loopKey: false。
第 3 步:為每次執行設定步數和成本上限
檢測只能抓住重複。如果模型每輪都嘗試新東西,就永遠不會重複同一個指紋;而模型在被攔截後仍繼續請求,也要等到 stop 觸發才會被終止。停止條件不管執行為什麼變長,都能結束它。把 maxCost 和 stepCountIs 一起匯入,替換 stopWhen,並新增兩個生命週期鉤子:
let failuresInARow = 0; // tool errors in a row, whatever the arguments
stopWhen: [stepCountIs(15), maxCost(0.01), () => failuresInARow >= 5],
hooks: {
// ...the hooks from before, plus:
PostToolUse: [{ handler: () => { failuresInARow = 0; } }],
PostToolUseFailure: [{ handler: () => { failuresInARow++; } }],
},stopWhen 在每一輪之後檢查,只要任一條件為真,執行就停止。maxCost 會累加我們在每個響應中返回的 usage.cost,因此統計的是你實際被計費的部分。失敗計數器忽略引數,所以即使沒有 loopKey,也能抓住第 2 步裡那種改動引數的情況。在一次以同樣方式改動引數的 Mistral Large 4 執行中,它在六次呼叫後以 $0.0062 結束了會話,SessionEnd: max_turns。
每個 stopWhen 條件都會以 reason: max_turns 結束會話,所以如果需要區分是哪個上限觸發的,就得自己記錄原因。如果上限觸發時模型還有待執行的工具呼叫,SDK 會先把它們跑完,再在停用工具呼叫的情況下做最後一輪,讓這次執行以一段文字回答收尾。這就是為什麼這次執行在上限為五的情況下發出了六次呼叫,也是為什麼第一個演示在上限為四十的情況下跑了四十一次。把 allowFinalResponse 設為 false 可以跳過這一輪。
兩個上限都按你平時的執行情況來設。我們的執行用了四到六輪,在 Mistral Large 4 上花費 $0.0018 到 $0.0053,所以 15 步和 $0.01 留有餘地,又不至於放任一次 40 輪的執行。兩者之中,成本上限更重要,因為後面的輪次比前面的更貴。
不用 Agent SDK,同樣的防護也能放進任何迴圈裡。按工具名和歸一化後的引數統計呼叫次數,第三次重複時不要執行,而是返回一條工具結果,比如“已攔截:告訴使用者出了什麼問題”,並在步數或累計的 usage.cost 超過上限時停止。我們的 Python 版本對接 chat completions API,在三次執行中都於四步之後停掉了 Mistral Large 4,花費不到 $0.002。
第 4 步:給 API 金鑰設定額度上限
到目前為止,所有防護都執行在AI 助理自己的程序裡。如果那段程式碼有 bug、上線時沒帶上限,或者跑了一百個各自都不超過 maxCost 的會話,總量就沒有任何限制。給金鑰設額度上限就能管住這一點,因為我們會在請求到達提供商之前,先在自己這邊做檢查。
在控制台或用 create key API 設定 limit(以美元計)和 limit_reset(daily、weekly、monthly 或 null)。如果金鑰使用 BYOK,還要把 include_byok_in_limit 設為 true,因為它預設是 false,否則 BYOK 的花費不會計入上限。每日上限在 UTC 午夜重置,每週上限在週一重置。給每個AI 助理或每個客戶分配獨立的金鑰,這樣一個迴圈最多隻能花掉該金鑰的那一份額度。如果多個AI 助理必須共用一個金鑰,請參考為共享的AI 助理金鑰設上限。
在路由請求之前,我們會先按最壞情況計價,也就是輸入加上 max_tokens。如果這個數額超出了金鑰剩餘額度,請求就會失敗,而且不會向你收費。我們用一個還剩 $9.97 的金鑰,向一個昂貴的模型傳送了一條 max_tokens: 900000 的 chat completions 請求,得到了這樣的返回:
402
{
"error": {
"message": "This request requires more credits, or fewer max_tokens. You requested up to 900000 tokens, but can only afford 664657. To increase, visit https://openrouter.ai/workspaces/<workspace-slug>/keys/<key-hash> and adjust the key's total limit",
"code": 402,
"metadata": {
"limit_source": "openrouter_key_limit",
"remedy_hint": "Raise or remove this API key's usage limit at https://openrouter.ai/settings/keys, or use a key without a limit.",
"provider_name": null
}
},
"user_id": "<org-id>"
}我們替換了工作區 slug、金鑰雜湊和組織 ID。
要根據 error.metadata.limit_source 分支處理,而不是根據訊息文本或狀態碼。金鑰額度耗盡時也會報告 openrouter_key_limit,limits 文件把該來源同時列在 402 額度錯誤和 403 預算錯誤之下。如果訊息說該金鑰能負擔的 token 更少,就像上面的例子那樣,就用更低的 max_tokens 重試。如果金鑰已耗盡,在額度重置之前重試不可能成功,所以應當把它當作停止訊號。Agent SDK 會把 402 丟擲為 PaymentRequiredResponseError。唯一值得重試的 402 是 openrouter_in_flight_budget,要按它的 Retry-After 頭來重試。速率限制則返回 429,我們的LLM API 速率限制指南對此有說明。
工作區預算按天、周、月或整個生命週期,把額度上限分攤到工作區內的每個金鑰上。被攔截的請求會返回 403,並附帶類似“Workspace monthly budget of $500.00 exceeded. Contact your org admin.”的提示。(這條提示並非我們實際觸發,而是來自文件。)已經在處理中的請求仍會完成,所以實際支出可能略微超出上限,但整夜執行的迴圈會在接近每日上限時停下。支出控制指南介紹了工作區預算與成員級防護措施如何配合使用。
哪種防護能攔住哪種迴圈?
每種防護攔下的迴圈型別不同。金鑰限額能攔住所有迴圈,但要等金鑰額度花完才生效,所以最適合作為最後一道防線。
| 迴圈型別 | doomLoop | loopKey | stopWhen 上限 | 金鑰限額或工作區預算 |
|---|---|---|---|---|
| 同樣的呼叫、同樣的引數 | 能攔住 | 不需要 | 在額度上限處攔住 | 在限額處攔住 |
| 同樣的呼叫、引數略有不同 | 攔不住 | 能攔住 | 在額度上限處攔住 | 在限額處攔住 |
| 每一輪都換新方法 | 攔不住 | 攔不住 | 在額度上限處攔住 | 在限額處攔住 |
| 多次執行,每次都在各自上限內 | 僅限單次執行 | 僅限單次執行 | 僅限單次執行 | 攔住總量 |
| 部署時漏掉了這些防護 | 攔不住 | 攔不住 | 攔不住 | 在限額處攔住 |
常見問題
為什麼我的AI 助理在報錯後一直呼叫同一個工具?
工具返回的結果說呼叫失敗,而提示詞又要求完成任務,所以在模型看來再試一次才是正確做法。返回錯誤時,要告訴模型下一步該怎麼做,比如“計費服務已宕機。告知使用者並停止。”不要告訴模型一直重試到成功為止。
最大迭代次數限制能阻止成本失控嗎?
最大迭代次數限制能阻止單次執行無限進行下去,但它並不能限制你的花費,因為越往後的輪次成本越高,而且多次執行即使都在限制之內,加起來仍然很可觀。LangChain 的 AgentExecutor 中的 max_iterations 和 CrewAI 中的 max_iter 這類設定,與 OpenRouter Agent SDK 中的 stepCountIs 作用相同。要把它們與單次執行的成本上限以及 API 金鑰的額度限制配合使用。
後續步驟
-
死迴圈檢測:分級處理、引導、升級以及按工具覆蓋。
-
停止條件:stepCountIs、maxCost、maxTokensUsed 以及自定義條件。
-
設定團隊 AI 支出控制:在儀表盤中配置工作區預算和防護措施。
-
Agent SDK:在 OpenRouter 上構建多輪AI 助理工作流:callModel 如何執行AI 助理迴圈。
來源:OpenRouter:Announcements · openrouter.ai