熱點事件持續更新
Nova Ops 維持兩個 MCP 工具以控制上下文成本
2 篇報導1 個報導來源8 小時前更新
先了解這件事
重點綜述
MCP 伺服器加入工具時,模型每回合都會收到工具名稱、說明和輸入格式,即使當回合沒有使用該工具也一樣。
- Nova Ops 作者先實測自家伺服器的兩個工具:相關內容共 790 個字元,估計每回合約佔 198 個 token,實際數字會因模型的分詞方式而異。
- 後續評估三個候選工具時,作者認為查詢工作狀態要等生成工作改為非同步後才有用,放大圖片目前沒有實際需求,而包辦四種操作的工具說明比現有兩個工具加起來還長,因此決定暫不新增工具。
- 伺服器目前維持兩個工具,作者也訂下新增前先確認工作需求、量測上下文佔用並保持說明簡短的做法。
根據報導自動生成 · 7 小時前更新
最新進展11月22日 21:10
Nova Ops 評估三個候選工具後決定維持兩個工具,每回合約佔 198 個 token。事件進展
2 個進展
- 11月22日 21:10 · 1 篇報導MCP 伺服器暫不新增第三個工具Dev.to Top Tech:Nova Ops 如何決定 MCP 伺服器要不要新增第三個工具
- 11月20日 12:55 · 1 篇報導測量MCP工具的上下文成本Dev.to Top Tech:nova-ops-nim-mcp 作者實測工具定義佔用多少上下文
報導時間線
沿著報導,瞭解事件的不同面向。
11月22日
- Dev.to Top TechNova Ops 如何決定 MCP 伺服器要不要新增第三個工具
MCP 伺服器每多一個工具,都會增加模型每次收到的說明內容;工具加得太多,成本也會跟著上升。Nova Ops 實際比較三個候選工具:查詢工作狀態的工具要等生成工作改成非同步後才有用,放大圖片的工具目前沒有實際需求,而包辦四種操作的單一工具,說明內容比現有兩個工具加起來還長。最後伺服器維持兩個工具,每回合約 198 個 token。作者的判斷方式是先看現有工作是否真的受阻,再衡量新增工具的成本與說明是否夠簡單。
11月20日
- Dev.to Top Technova-ops-nim-mcp 作者實測工具定義佔用多少上下文
MCP 伺服器加入的工具越多,每次傳給模型的工具說明也會跟著增加,即使模型沒有使用它們也是如此。作者實測自家 nova-ops-nim-mcp 伺服器的兩個工具,工具名稱、說明和輸入格式合計 790 個字元,估計每回合約佔 198 個 token;這個估算會因模型使用的分詞方式而改變。作者因此訂下新增工具前的做法:先量測佔用量,讓整臺伺服器每回合低於 1,000 個估計 token,並把工具說明寫短。
本事件熱度趨勢
當前熱度 8·可比範圍峰值 10(11月22日 22:00)·近 24 小時可比範圍變化 +156%
趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指標或點選圖表檢視每小時熱度;鍵盤可用左右方向鍵切換。
讀者討論
針對此事件的各方觀點與即時反饋