超越 RAG:用關聯式上下文引擎大幅降低 Token 消耗——Unblocked
Unblocked 的 Peter Werry 主張,多數 AI 代理(agent)所依賴的檢索層——對檔案與程式碼做語意 RAG——只解決了一半的問題,而另一半、也就是對組織內部資料做結構化查詢,才是真正工程難度所在。在一場 19 分鐘的演講中,他說明什麼是「context engine」,展示接上 Claude 之後實測省下的成本與時間,並現場動手打造一個開源元件,把自然語言問題轉成安全、經過驗證的資料庫查詢。標題所稱的「Token 燃燒」是真的,但範圍很窄:它只建立在他跑過的一次前後對比上,而整集節目的主體其實是查詢生成、schema 探索、身分對映與驗證,不是成本。 Werry 是
推薦理由:Peter Werry 以實測說明關聯式上下文引擎能降低 Token 消耗,為 AI 代理成本最佳化帶來新思路。