Microsoft Research 推出 TokenEconomizer,讓 AI 編碼助理依程式庫經驗降低成本
Microsoft Research 釋出開源外掛 TokenEconomizer,借倉庫歷史經驗為 AI 編碼 Agent 降本 18.4–30.9%
AI 編碼助理每次處理程式庫任務,都可能重查熟悉的資訊、載入用不到的工具,或反覆卡在同一種錯誤。
- Microsoft Research、加州大學柏克萊分校與 Microsoft Security 推出開源外掛 TokenEconomizer,會從同一程式庫的過往工作紀錄學習,再用簡短筆記、調整工具清單和卡關提醒,協助後續任務少花 token。
- 它不需要修改助理或底層模型。在 277 個 SWE-Bench 缺陷修復任務中,成本降低 18.4% 至 30.9%,整體成功率維持穩定。學到的內容儲存在開發者本機。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
原文以 SWE-Bench、Web-Bench 與安全審計任務比較降本幅度,可瞭解依程式庫經驗調整工具與工作方式的效果。
Microsoft Research 部落格· Aaron J. Liu, Weijia Xu, Chandan Singh, Jeevana Priya Inala, Bin Yu, Ion Stoica, Michel Galley, Jianfeng Gao·2026-11-17 01:01· 28 分鐘前精選AI 評分70
TokenEconomizer: Learning from Experience to Make AI Coding Agents More Efficient
AI 導讀
UC Berkeley、Microsoft Research 與 Microsoft Security 開源 TokenEconomizer 外掛,從AI 助理在同一倉庫的歷史會話中學習,在不修改AI 助理和底層模型的情況下降低成本。
推薦理由
原文用 SWE-Bench 資料說明外掛如何從倉庫歷史會話學習降低 token 開銷,開發者可據此評估是否接入現有編碼AI 助理。

概覽
- 開發者日復一日地在同一批程式碼庫中使用 AI 程式設計AI 助理,但AI 助理往往每次會話都從零開始:重新摸索熟悉的事實、載入用不到的工具、重複此前不成功的做法。
- TokenEconomizer 是一個開源外掛,它能從AI 助理在某個程式碼庫中的歷史會話中學習,減少後續會話中的浪費,而且無需改動AI 助理或其底層模型。
- 在 277 個真實的缺陷修復任務中,TokenEconomizer 讓多個 AI 程式設計AI 助理的成本降低了 18.4%–30.9%。所有受測程式碼庫的成本都有下降,任務成功率總體保持穩定。
AI 程式設計AI 助理正越來越多地幫助開發者基本獨立地修復缺陷、構建功能,但每一次與模型的互動都會消耗 token。在每次會話中,AI 助理都要向模型傳送指令、工具描述和會話歷史。大多數降低這部分成本的努力都聚焦於單個任務。然而開發者會反覆回到同一批程式碼庫,這就給了AI 助理從以往工作中學習的機會。缺少這種學習,AI 助理可能反覆摸索如何執行測試、載入從未用過的工具,或者花上幾十輪反覆糾纏同一個錯誤。
在我們的論文 TokenEconomizer: Experience-Driven Black-Box Cost Control for Coding Agents 中,我們提出了一個簡單的問題:在某個程式碼庫中積累的經驗,能否幫助AI 助理更高效地完成後續任務?TokenEconomizer 是來自加州大學伯克利分校、微軟研究院和微軟安全團隊的開源外掛,它把已完成的會話轉化為對後續會話的指導。它無需改動AI 助理或其底層模型就能減少浪費,因此開發者可以把它與已經在用的程式設計AI 助理搭配使用。

token 都花在哪了
我們首先在 SWE-Bench 的 60 個任務上對 Claude Code 做了剖析。SWE-Bench 是一個基於開源 Python 專案真實缺陷修復的基準測試,我們按順序執行每個程式碼庫中的任務。有三類浪費反覆出現:
- 反覆摸索同樣的事實。當一個程式碼庫累計完成至少五個任務後,30% 的工具呼叫重複了該程式碼庫中更早任務裡的某個操作。只有 7% 與另一個程式碼庫歷史中的操作相匹配。
- 為用不到的工具付費。AI 助理每一輪都會收到 23 個工具描述,但其中 16 個從未被呼叫。
- 卡在失敗上。失敗的任務佔 17%,卻消耗了 32% 的開支。
我們還測試了三款流行的開源外掛,它們各自圍繞一種固定的降本策略構建。每款外掛都能降低部分程式碼庫的成本,但對另一些程式碼庫則無效。綜合來看,這些發現表明,有效的成本控制必須因程式碼庫而異,而不能到處套用同一種策略。
TokenEconomizer 如何工作
每次會話結束後,TokenEconomizer 會讀取該會話的日誌,並更新它對程式碼庫的瞭解。隨後它通過三種機制發揮作用,且只使用AI 助理已經提供的介面,如圖 2 所示。
微技能以一行筆記的形式記錄程式碼庫特有的知識。TokenEconomizer 會識別跨會話反覆出現的模式,並提出相應的筆記。只有在多個會話確認該模式之後,筆記才會被加入AI 助理的起始上下文;如果後續證據與之矛盾,則會將筆記撤下。
工具裁剪會移除倉庫歷史顯示AI 助理不太可能使用的工具,同時始終保留用於執行命令和編輯檔案的核心工具。被移除的工具如有需要可以恢復。
失敗迴圈干預會監測反覆遭遇同一失敗的AI 助理。由一個評判模型判斷AI 助理是真的卡住了,還是仍在取得進展。如果確實卡住,AI 助理會收到一條簡短提示,建議換一種方法。在開源外掛中,如果AI 助理收到提示後仍然卡住,TokenEconomizer 會通知開發者,而不是自行中止工作。

該控制器會隨著新證據的出現修正自己的決策。所報告的節省也已計入 TokenEconomizer 自身模型呼叫的成本。
在每個倉庫都能省錢
我們在來自六個倉庫的 277 個 SWE-Bench 任務上評估了 TokenEconomizer,使用了五種不同的 AI 編碼AI 助理與模型組合。對每個倉庫,TokenEconomizer 都從沒有任何歷史會話記錄的狀態開始。
如圖 3 所示,TokenEconomizer 將平均成本降低了 18.4–30.9%,並且在全部 30 個倉庫與組合配對中都實現了最大幅度的節省,同時沒有效能損失。相比之下,降低模型的推理強度雖然能節省相近甚至更多的成本,卻會導致效能大幅下降。

隨著經驗積累,節省會越來越多。早期任務在 TokenEconomizer 學習期間成本可能更高,但如圖 4 所示,到第六個任務時,每個倉庫的累計成本都已低於預設水平。每種機制單獨都能帶來節省,三者結合則降幅最大。

這種節省也延續到了連續進行的 Web 開發任務中,在 Web-Bench 上成本降低了 16.0–21.2%。在安全審計場景中,每個任務都位於新倉庫,成本降低了 6.4–19.6%。
未來展望
TokenEconomizer 為編碼AI 助理開闢了一條新路徑:不僅學會如何解決任務,還學會如何更有效地使用計算資源。其輕量級控制器展示了經驗如何在不改變底層AI 助理或模型的情況下提升效率。
這個開源外掛讓開發者和研究者都能接觸這些方向。它的設計目標是與現有 AI 編碼AI 助理並行執行,無需修改其底層模型,自身也不需要 API 金鑰,並且學到的內容都保留在開發者本機。我們邀請社群以它為起點,探索那些能隨經驗變得更善於調配資源的AI 助理——既調整工作方式,也調整知識儲備。
在新標籤頁中開啟
文章 TokenEconomizer:從經驗中學習,讓 AI 編碼AI 助理更高效 首發於 Microsoft Research。
來源:Microsoft Research 部落格 · microsoft.com