代理的資料情境層 — Typedef 的 Yoni Michael 與 Brandon Callender

這場 106 分鐘工作坊裡最有力的主張，並不是標題所標榜的資料情境層（data context layer）——那個主題大約只佔開頭 25 分鐘——而是講者自己在評估實驗中得到的反直覺發現：一個專門打造、能用一次呼叫回答 grep 得跑很多次才能回答的圖形工具，在單次準確率上竟然與 grep 大致打成平手。只有當同一批問題跑五次、改以一致性而非最佳情況正確率計分時，圖形代理才拉開差距——可靠性約為兩倍，Token 用量則少了約 3.1 倍。講者從中得到的教訓是：打造情境層是簡單的部分；讓代理真的願意去用它才是難的部分，因為模型在後訓練階段被教成要 grep、要讀檔案，除非把更好的工具塑造成它們