重點導讀
DeepSeek、Kimi 和 GLM 在 Baseten Model APIs 上已啟用延遲工具載入。
在我們的程式設計基準測試中,使用完全相同的模型和測試架構,可讓 AI 助理的成本最高降低 62%,速度提升 26%。
運作方式如下:
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Baseten@baseten
·3 天前
Deferred tool loading is live for DeepSeek, Kimi, and GLM on Baseten Model APIs.
In our coding benchmarks, it helps agents run up to 62% cheaper and 26% faster with the exact same model and harness.
This is how it works:
推文來源 · X (Twitter)在 X 參與討論