跳到正文
aihot(aihot.news)· noreply@aihot.news (OpenRouter:Announcements)·· 12 天前精選品質評分74

OpenRouter 實測 MCP、CLI 與技能在 GitHub 任務中的上下文 token 成本

OpenRouter 實測 MCP vs CLI vs Skills 的上下文 token 成本

重點導讀

OpenRouter 比較 MCP、CLI 與技能完成同一個 GitHub 任務的 token 成本,並測試縮小工具範圍、精簡結果與 Tool Search 的影響。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

同一 GitHub 任務的實測比較呈現 CLI、技能與 MCP 的 token 成本差異,也整理工具範圍、結果欄位與延遲載入對成本和答題表現的影響。

正文

OpenRouter:Announcements·2026-11-11 08:00· 45 分鐘前精選AI 評分74

MCP vs CLI vs Skills: What Each Costs in Context

AI 導讀

OpenRouter 實測同一 GitHub 任務下 MCP、CLI 與 skill 的 token 成本:在 Claude Sonnet 5.5 上 CLI 用 1。

推薦理由

原文實測同一 GitHub 任務下 MCP、CLI 與 skill 的 token 開銷,給出縮窄工具和 Tool Search 的降本方法,可直接遷移到自己的AI 助理。

你給AI 助理提供的每個工具,都會在每次請求時把它的定義發給模型,而這些定義會作為輸入 token 計費。一個 Model Context Protocol(MCP)伺服器可能給上下文視窗增加數萬個 token。常見的替代方案是命令列工具(CLI)或 skill。

我們在一個 GitHub 任務上做了實測,用到 GitHub MCP server、gh CLI 和一個 gh skill,測試模型包括 Claude Haiku 5.5、Claude Sonnet 5.5、GPT-6 Luna 和 Gemini 3.8 Flash。在 Sonnet 5.5 上,三者都答對了,但消耗的輸入 token 差別很大:CLI 用了 1,421 個,skill 用了 3,315 個,而 MCP 伺服器在載入預設工具的情況下用了 59,417 個。下面說說這些 token 花在了哪裡,以及如何用我們的 Tool Search 伺服器工具把它們降下來。

TL;DR

  • 在 Claude Sonnet 5.5 上,GitHub MCP 伺服器的 46 個預設工具會給每次請求增加 19,436 個 token。

  • 在 Sonnet 5.5 上,單條工具結果——GitHub 的 release 物件——就花了約 20,400 個 token,比全部 46 個工具定義還多。

  • Tool Search 把 46 個工具的前置開銷降到了 600 個 token 以內。從整個任務來看,它讓 Sonnet 5.5 的成本減半,卻讓 Claude Haiku 5.5 的成本上升。

MCP、CLI 和 skill 有什麼區別?

三者都能給模型一項能力,區別在於模型在使用這項能力之前要讀什麼。

模型一開始看到什麼模型執行時看到什麼
MCP 伺服器每次請求都帶上每個工具的名稱、描述和 JSON schema工具返回的結果,格式由伺服器決定
CLI一個 shell 工具,外加一行說明該 CLI 存在命令的輸出,你可以用 —json 之類的引數來控制格式
Skill每個 skill 的一行描述先讀一次該 skill 的 SKILL.md 檔案,然後是命令輸出

CLI 依賴模型本來就懂這個工具。skill 則是教模型怎麼用某個工具,模型只在任務需要時才載入完整說明。

MCP 伺服器會給每次請求增加多少 token?

可靠的計數方式是直接問模型。各家服務商在計算 token 之前,會先按自己的格式把工具定義寫進提示詞,本地分詞器會漏掉這部分。把同一個請求分別帶工具和不帶工具各發一次,usage.prompt_tokens 的差值就是這些工具每一輪的開銷。

把這段程式碼儲存為 mcp_cost.py。它使用 MCP 的 2025-06-18 版本,GitHub 伺服器接受這個版本。

"""How many prompt tokens does an MCP server add to every request? Ask the model."""
import json
import os
import subprocess
import sys

import requests

API = "https://openrouter.ai/api/v1/chat/completions"
HEADERS = {"Authorization": f"Bearer {os.environ['OPENROUTER_API_KEY']}"}

def list_mcp_tools(command):
    """Start a stdio MCP server, run the handshake, and return its tools/list result."""
    proc = subprocess.Popen(command, stdin=subprocess.PIPE, stdout=subprocess.PIPE,
                            stderr=subprocess.DEVNULL, text=True)

    def rpc(method, params, id=None):
        msg = {"jsonrpc": "2.0", "method": method, "params": params}
        if id is not None:
            msg["id"] = id
        proc.stdin.write(json.dumps(msg) + "\n")
        proc.stdin.flush()
        while id is not None:
            reply = json.loads(proc.stdout.readline())
            if reply.get("id") == id:
                return reply["result"]

    rpc("initialize", {"protocolVersion": "2025-06-18", "capabilities": {},
                       "clientInfo": {"name": "mcp-cost", "version": "1"}}, id=1)
    rpc("notifications/initialized", {})
    tools, cursor, id = [], None, 2
    while True:  # follow nextCursor so servers that paginate tools/list are fully counted
        page = rpc("tools/list", {"cursor": cursor} if cursor else {}, id=id)
        tools += page["tools"]
        cursor, id = page.get("nextCursor"), id + 1
        if not cursor:
            break
    proc.kill()
    return tools

def prompt_tokens(model, tools=None):
    body = {"model": model, "max_tokens": 16, "messages": [{"role": "user", "content": "Say ok."}]}
    if tools:
        body["tools"] = tools
    if model.startswith("google/"):
        # Google Vertex and Google AI Studio count the same tools differently, so pin one.
        body["provider"] = {"only": ["google-vertex"]}
    r = requests.post(API, headers=HEADERS, json=body, timeout=120)
    r.raise_for_status()
    return r.json()["usage"]["prompt_tokens"]

if __name__ == "__main__":
    mcp_tools = list_mcp_tools(sys.argv[1:])
    # What an MCP client sends the model: each tool's name, description and input schema.
    tools = [{"type": "function", "function": {"name": t["name"], "description": t.get("description", ""),
                                               "parameters": t["inputSchema"]}} for t in mcp_tools]
    print(f"{len(tools)} tools")
    for model in ["anthropic/claude-haiku-5.5", "openai/gpt-6-luna", "google/gemini-3.8-flash"]:
        added = prompt_tokens(model, tools) - prompt_tokens(model)
        print(f"{model:30} +{added:,} prompt tokens on every request")

把伺服器的啟動命令作為引數傳入,下面以 GitHub MCP server v2.0.2 為例。

$ python mcp_cost.py github-mcp-server stdio --toolsets=default
46 tools
anthropic/claude-haiku-5.5     +19,436 prompt tokens on every request
openai/gpt-6-luna              +8,903 prompt tokens on every request
google/gemini-3.8-flash        +8,525 prompt tokens on every request

每增加一個工具,開銷就會增長。在 Haiku 5.5 上,issues 工具集有 10 個工具,增加 5,801 個 token;users 工具集只有 1 個工具,增加 619 個。

所用模型也會改變計數。同樣的 46 個工具,在 Haiku 5.5 上要 19,436 個 token,在 GPT-6 Luna 上只要 8,903 個,所以要按你打算實際執行的模型來測量。

就連提供模型的服務商也會影響結果。在 Gemini 3.8 Flash 上,這 46 個工具通過 Google Vertex 要 8,525 個 token,通過 Google AI Studio 則要 13,010 個。所以指令碼總是把 Gemini 請求發往 Google Vertex。

同一個任務用 CLI、skill 和 MCP 分別要花多少?

我們問每個模型:“GitHub 倉庫 cli/cli 的最新 release 是哪個?該倉庫中帶 bug 標籤、最近開啟的三個 open issue 是什麼?”每種方式都在我們的 Responses API 上以工具呼叫迴圈執行,我們把各次請求的 usage.input_tokens 累加起來。

  • CLI。一個 run_shell 工具,外加一句“GitHub CLI gh 已安裝並完成認證”。

  • Skill。同一個工具,再加一行索引,指向一份 1,492 字元的 SKILL.md,裡面是 gh 的常用命令。

  • MCP。伺服器提供的工具,範圍可選任務所需的 2 個、預設的 46 個,或全部 91 個。

我們在 2026 年 10 月 20 日把每種組合各跑了三次,表中顯示的是中位數。Haiku 5.5 的提示詞計數方式與 Sonnet 5.5 完全相同,但它在部分執行中多走了幾輪,因此我們展示的是 Sonnet 更穩定的 token 數和計費成本。

方案Sonnet 5.5 token 數Sonnet 5.5 每任務成本GPT-6 Luna token 數Gemini 3.8 Flash token 數
CLI1,421$0.00756275,292
Skill3,315$0.01181,5426,107
MCP,2 個工具23,228$0.055214,47917,267
MCP,46 個預設工具59,417$0.1274116,28235,409
MCP,全部 91 個工具101,351$0.2113135,23853,289
MCP,2 個工具,結果截斷至 4,000 字元5,357$0.01912,7262,943

表中每一次執行都答對了。失敗案例出現在 Tool Search 上,詳見下文。在 Sonnet 5.5 上,預設 MCP 伺服器的輸入 token 是 CLI 的 42 倍,成本是 17 倍,每 1,000 個任務為 127 美元對 7.50 美元。Sonnet 5.5 的輸出 token 單價是輸入的 5 倍,CLI 那次執行的 463 個輸出 token 佔其 0.0075 美元成本中的 0.0046 美元。

Bar chart of input tokens for the whole task, split into tool definitions and instructions versus task, tool results and replies: CLI 1,421, Skill 3,315, MCP with 2 tools capped 5,357, MCP with 2 tools 23,228, MCP with 46 tools 59,417, MCP with 91 tools 101,351.

Skill 比裸 CLI 更貴,因為檔案一旦被模型讀取,就會一直留在對話裡。對於模型已經很熟悉的 CLI 工具,Skill 是可選項。而對於你自己的 CLI,Skill 正是模型學習命令的途徑。

為什麼 MCP 工具結果的成本和工具定義一樣高?

get_latest_release 返回了 GitHub 的完整 release 物件,共 42,182 字元,其中 87% 都在描述那 22 個下載檔案。模型需要的只是 tag 和日期,而這正是 gh release view 返回的全部內容。

$ gh release view -R cli/cli --json tagName,publishedAt
{"publishedAt":"2026-09-30T02:40:02Z","tagName":"v2.102.0"}

這個物件會留在上下文視窗中,並在之後的每次請求中重新發送,在 Sonnet 5.5 上它增加了約 20,400 個 token。把伺服器限定為兩個工具後,首次請求從 19,487 個 token 降到 1,406 個。整個任務仍然花了 23,228 個 token。

表中展示了兩種解決辦法。第一,只暴露AI 助理需要的工具,用 —tools=get_latest_release,list_issues 或 —toolsets=issues,repos。第二,在模型看到結果之前,先在客戶端裡精簡結果。4,000 字元的上限讓限定範圍的方案降到 5,357 個 token,且每次執行都正確,因為 GitHub 把 tag 和日期放在靠前的位置。

這個上限之所以有效,只是因為相關欄位恰好排在前面。與 Tool Search 結合後,該上限讓 Gemini 3.8 Flash 和 Haiku 5.5 各自三次執行中只有一次答對,Gemini 還有一次在重試時觸發了我們 12 次請求的上限。

更好的做法是保留完整欄位,就像 CLI 的 —json 那樣。GitHub 伺服器的 list_issues 接受 fields 引數,只請求 number、title 和 creation date 後,其結果從 8,336 字元降到 714 字元。不加這個引數,結果大小就由模型決定。在載入 46 或 91 個工具的六次執行中,有四次 GPT-6 Luna 請求了 100 個 issue 及其全文,拿回了 281,963 字元。

Tool Search 能解決 MCP 的上下文問題嗎?

Tool Search 消除了工具定義的大部分成本。你把工具標記為 defer_loading: true,並加上 {“type”: “openrouter:tool_search”}。我們會暫不傳送被延遲的定義,只發送搜尋工具,以及你保留載入的工具。模型用正規表示式搜尋工具名稱和描述,並在下一輪呼叫匹配到的工具。該功能處於 beta 階段,可在 Responses 和 Messages API 上配合任意模型和提供商使用。

把全部 46 個 GitHub 工具都延遲載入後,任何搜尋之前的成本在 Claude 模型上是 578 個 token,GPT-6 Luna 上是 144 個,Gemini 3.8 Flash 上是 130 個。

這個指令碼會先載入全部 46 個工具傳送一個問題,然後再改為延遲載入。把它儲存到 mcp_cost.py 旁邊,因為它複用了 list_mcp_tools。

"""Send the same MCP tools with defer_loading and openrouter:tool_search, and compare prompt tokens."""
import os
import sys

import requests

from mcp_cost import list_mcp_tools

API = "https://openrouter.ai/api/v1/responses"
HEADERS = {"Authorization": f"Bearer {os.environ['OPENROUTER_API_KEY']}"}
QUESTION = "What is the latest release of the GitHub repository cli/cli?"

def ask(model, tools):
    r = requests.post(API, headers=HEADERS, timeout=300,
                      json={"model": model, "input": QUESTION, "tools": tools})
    r.raise_for_status()
    return r.json()

mcp_tools = list_mcp_tools(sys.argv[1:])
# The Responses API takes function tools flat: type, name, description, parameters.
tools = [{"type": "function", "name": t["name"], "description": t.get("description", ""),
          "parameters": t["inputSchema"]} for t in mcp_tools]
deferred = [{"type": "openrouter:tool_search"}] + [{**t, "defer_loading": True} for t in tools]

for model in ["anthropic/claude-haiku-5.5", "openai/gpt-6-luna"]:
    for label, tool_list in [("all loaded", tools), ("tool search", deferred)]:
        res = ask(model, tool_list)
        steps = [f"search {o['query']!r}" if o["type"] == "openrouter:tool_search" else f"call {o['name']}"
                 for o in res["output"] if o["type"] in ("openrouter:tool_search", "function_call")]
        print(f"{model:28} {label:12} {res['usage']['input_tokens']:>6,} input tokens  {' -> '.join(steps)}")
$ python tool_search.py github-mcp-server stdio --toolsets=default
anthropic/claude-haiku-5.5   all loaded   19,464 input tokens  call get_latest_release
anthropic/claude-haiku-5.5   tool search   7,069 input tokens  search 'github|release' -> search 'latest release|list_releases|get_latest_release' -> call get_latest_release
openai/gpt-6-luna            all loaded    8,923 input tokens  call get_latest_release
openai/gpt-6-luna            tool search   4,453 input tokens  search 'github repository latest release cli cli' -> search 'github' -> search 'search web internet browser' -> search 'release' -> call get_latest_release

要在你的AI 助理上試用,請把你的 MCP 工具標記為 defer_loading: true,新增 {"type": "openrouter:tool_search"},然後對比前後的 usage.input_tokens。

Tool Search 各行資料會隨模型的搜尋方式而變化。在這個指令碼的五次獨立執行中,Haiku 5.5 用了 2,134 到 13,225 個 token,且每次搜尋都會增加。GPT-6 Luna 寫的是短語而不是模式,進行了三到六次搜尋,還有一次直接放棄,沒有呼叫該工具。我們的文件建議保持你最常用的三到五個工具處於載入狀態。

在整個任務中,結果取決於模型。

模型MCP,載入 46 個工具Tool Search,延遲 46 個Tool Search,延遲 91 個
Claude Sonnet 5.559,41730,33431,615
GPT-6 Luna116,28225,54457,975
Gemini 3.8 Flash35,40937,56838,445
Claude Haiku 5.599,319154,62331,781

GPT-6 Luna 的載入數值包含了上文所述的 100 個 issue 請求。

在 Sonnet 5.5 上,延遲 91 個工具比延遲 46 個多花 1,281 個 token,而全部載入 91 個則多花約 42,000 個。Tool Search 不會縮小工具結果,而且 release 物件仍然佔據了 Sonnet 第二次請求的大部分。

Haiku 5.5 在延遲 46 個工具時比全部載入時花費更高。在全部三次執行中,它都向 list_issues 請求了一個該工具並不提供的欄位,然後用錯誤型別的引數重試了三到四次,例如把 labels 寫成字串而不是陣列。在全部工具載入的情況下,Haiku 在三次執行中有兩次犯了同樣的錯誤,並在下一次呼叫時修正了。請限制迴圈中的請求數量,並在某次執行成本激增時檢查工具錯誤。

Tool Search 通過放寬 tool_choice 來揭示工具,因此同時強制進行工具呼叫的請求會失敗。

400 `tool_choice` 與 `openrouter:tool_search` 衝突。延遲工具是通過 `tool_choice` 揭示的,因此必須省略它或將其設定為 `{"type": "allowed_tools", …}`。移除 `tool_choice`,或者從你的工具中去掉 `defer_loading` 以按原樣使用。

Chat Completions 不接受 openrouter:tool_search 並返回 400,因此請先將該AI 助理遷移到 Responses 或 Messages API。

MCP vs CLI vs 技能:你應該用哪個?

當存在一個 CLI 且你的AI 助理能執行命令時,就用 CLI。當它不能時,就用 MCP,並限定範圍、保持結果精簡。

你的情況使用來自我們在 Sonnet 5.5 上的執行
存在一個眾所周知的 CLI,且AI 助理能執行命令CLI每個任務 1,421 個 token
你自己的 CLI,或者模型使用不穩定的 CLICLI 加一個技能3,315 個 token,每次執行命令相同
沒有 CLI、沒有 shell,或者你需要伺服器的認證和許可權MCP,限定為你需要的工具2 個工具時 23,228 個 token,而 46 個工具時為 59,417 個
跨多個伺服器的大型工具庫帶 Tool Search 的 MCP在 Sonnet 5.5 上,延遲 91 個工具的成本與 46 個大致相同
任何 MCP 路線將工具結果裁剪為你需要的欄位從 23,228 降至 5,357 個 token

如果你的AI 助理沒有 shell,我們的 Shell 伺服器工具可以為任何模型提供一個沙箱化的 shell。在我們的 Agent SDK 中,MCP Tools 可連線遠端 MCP 伺服器,而技能載入器示例僅在模型請求後才新增技能的指令。

我們只在一個任務上測試了一個伺服器,所以在做決定之前,請在你的伺服器上執行 mcp_cost.py。

常見問題

在 AI 助理語境中,什麼是 CLI?

CLI(命令列介面)是用輸入命令來執行的程式。AI 助理拿到一個 shell 工具,自己寫出這些命令。在我們的測試中,gh CLI 在一個 GitHub 任務上用了 1,421 個輸入 token,而 GitHub MCP 伺服器用了 59,417 個。

MCP 伺服器和連接器有什麼區別?

MCP 伺服器通過模型上下文協議對外提供工具。連接器則是 Claude 這類應用對其連線遠端 MCP 伺服器的鏈路的稱呼。我們的 Agent SDK 可以通過 MCP Tools 連線遠端 MCP 伺服器。

技能會取代 MCP 嗎?

不會。技能是通常面向 CLI 的指令,只在任務需要時才載入。MCP 提供帶自身鑑權的型別化工具,無需 shell 即可工作。在 OpenRouter 上,Tool Search 讓你可以保留 MCP,只在需要時載入每個工具。

提示詞快取能解決 MCP 的 token 成本問題嗎?

它能降低這些 token 的價格,但並不能消除它們。截至 2026 年 10 月,在 OpenRouter 上,根據我們的即時模型價格,在 Claude Haiku 5.5 和 GPT-6 Luna 上快取輸入的價格是正常費率的十分之一,而且它仍然會佔用上下文視窗。

多少個 MCP 工具算太多?

我們的 Tool Search 文件建議,一旦工具定義超過約 10,000 個 token 或大約 10 個工具,就推遲載入工具。GitHub MCP 伺服器預設的 46 個工具在 Claude 上合計 19,436 個 token。

後續步驟

來源:OpenRouter:Announcements · openrouter.ai

來源: aihot (aihot.news)
開啟原文

讀者討論

理性交流 · 即時討論