哪個網頁搜尋 API 適合連續呼叫的 AI 助理?
Which web search API is fast enough for an AI agent that makes many calls in a row?
重點導讀
AI 助理連續搜尋多次時,每次多等幾秒,總等待時間就會拉長;但搜尋越快,不一定越能答對需要多步查證的問題。
- 這篇比較測試中,Exa 每次搜尋的中位數是 0.74 秒,Google 搜尋結果 API 約要 8 秒。
- 連搜 10 次,估計搜尋時間分別約 7 秒和 80 秒。另一方面,在 824 題多步搜尋問題中,兩種較慢的 API 單次搜尋答對率為 80.2% 和 77.4%,Exa 為 64.0%,Tavily 為 48.4%。因此,使用者正在等答案時可優先看速度。
- 背景研究若更重視多步問題的答對率,較慢的 API 也可能合適。作者也提醒,測試只讓每題搜尋一次,還不能說明多次快速搜尋能否追上較慢 API 的答對率。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
Which web search API is fast enough for an AI agent that makes many calls in a row?
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文