跳到正文
熱點事件持續更新

Nova Ops 維持兩個 MCP 工具以控制上下文成本

2 篇報導1 個報導來源8 小時前更新

先了解這件事

重點綜述

MCP 伺服器加入工具時,模型每回合都會收到工具名稱、說明和輸入格式,即使當回合沒有使用該工具也一樣。

  • Nova Ops 作者先實測自家伺服器的兩個工具:相關內容共 790 個字元,估計每回合約佔 198 個 token,實際數字會因模型的分詞方式而異。
  • 後續評估三個候選工具時,作者認為查詢工作狀態要等生成工作改為非同步後才有用,放大圖片目前沒有實際需求,而包辦四種操作的工具說明比現有兩個工具加起來還長,因此決定暫不新增工具。
  • 伺服器目前維持兩個工具,作者也訂下新增前先確認工作需求、量測上下文佔用並保持說明簡短的做法。

根據報導自動生成 · 7 小時前更新

事件進展

2 個進展
  1. 11月22日 21:10 · 1 篇報導
    MCP 伺服器暫不新增第三個工具
    Dev.to Top Tech:Nova Ops 如何決定 MCP 伺服器要不要新增第三個工具
  2. 11月20日 12:55 · 1 篇報導
    測量MCP工具的上下文成本
    Dev.to Top Tech:nova-ops-nim-mcp 作者實測工具定義佔用多少上下文

報導時間線

沿著報導,瞭解事件的不同面向。

11月22日
  1. Dev.to Top Tech
    Nova Ops 如何決定 MCP 伺服器要不要新增第三個工具

    MCP 伺服器每多一個工具,都會增加模型每次收到的說明內容;工具加得太多,成本也會跟著上升。Nova Ops 實際比較三個候選工具:查詢工作狀態的工具要等生成工作改成非同步後才有用,放大圖片的工具目前沒有實際需求,而包辦四種操作的單一工具,說明內容比現有兩個工具加起來還長。最後伺服器維持兩個工具,每回合約 198 個 token。作者的判斷方式是先看現有工作是否真的受阻,再衡量新增工具的成本與說明是否夠簡單。

11月20日
  1. Dev.to Top Tech
    nova-ops-nim-mcp 作者實測工具定義佔用多少上下文

    MCP 伺服器加入的工具越多,每次傳給模型的工具說明也會跟著增加,即使模型沒有使用它們也是如此。作者實測自家 nova-ops-nim-mcp 伺服器的兩個工具,工具名稱、說明和輸入格式合計 790 個字元,估計每回合約佔 198 個 token;這個估算會因模型使用的分詞方式而改變。作者因此訂下新增工具前的做法:先量測佔用量,讓整臺伺服器每回合低於 1,000 個估計 token,並把工具說明寫短。

本事件熱度趨勢

當前熱度 8·可比範圍峰值 10(11月22日 22:00)·近 24 小時可比範圍變化 +156%

02.557.51011月20日14:0011月21日11:0011月22日07:0011月23日04:00

趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指標或點選圖表檢視每小時熱度;鍵盤可用左右方向鍵切換。

讀者討論

針對此事件的各方觀點與即時反饋