nova-ops-nim-mcp 作者實測工具定義佔用多少上下文
I Measured My MCP Server's Context Tax Before Adding a Third Tool
重點導讀
MCP 伺服器加入的工具越多,每次傳給模型的工具說明也會跟著增加,即使模型沒有使用它們也是如此。
- 作者實測自家 nova-ops-nim-mcp 伺服器的兩個工具,工具名稱、說明和輸入格式合計 790 個字元,估計每回合約佔 198 個 token。
- 這個估算會因模型使用的分詞方式而改變。作者因此訂下新增工具前的做法:先量測佔用量,讓整臺伺服器每回合低於 1,000 個估計 token,並把工具說明寫短。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
I Measured My MCP Server's Context Tax Before Adding a Third Tool
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文