作者拆解 5 個工具伺服器,發現圖示和輸入結構才是主要成本
Stop Trimming Tool Descriptions. They Were Never the Biggest Part.
重點導讀
工具定義會佔用模型可用的 token 空間,但只刪短描述文字,未必省到最多。
- 作者拆開五個本機工具伺服器、共 68 個工具後發現,描述只佔總量的 11.2%,輸入結構通常更大。
- 輸出結構的大小則看伺服器作者怎麼設計。最意外的是,一個測試伺服器有 79.9% 的定義空間用在圖示上。作者提醒,整理工具前應先分開檢視各部分,因為每個伺服器最佔空間的內容都可能不同。
- 這次結果也不能直接代表託管伺服器。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
Stop Trimming Tool Descriptions. They Were Never the Biggest Part.
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文