跳到正文
AI Engineer(youtube.com)· Ryan Ahern·· 19 小時前精選AI 評分85

版本控管的搜尋:重現過往的網路樣貌——Ryan Ahern,Exa

版本控管的搜尋:重現過往的網路樣貌——Ryan Ahern,Exa

AI 導讀

Exa 的 Ryan Ahern 介紹可依版本查詢的網路搜尋(Snapshot),能查詢過去特定日期當時的網路樣貌;他主張這讓預測模型與代理得以回測,同時避免過度擬合與未來資訊洩漏。

🎙️

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

正文 · 原文

Exa 的前線部署工程師(forward-deployed engineer)Ryan Ahern 主張,具版本控制能力的網路搜尋——Exa Snapshot,收錄超過 4,000 億筆帶日期的網頁快照——讓金融機構得以回測代理式搜尋功能,而不是憑信念接受它的價值。這場演講前半段鋪陳代理式網路搜尋的動機,以及 Exa 在品質、成本、延遲上的主張;後半段才談 Snapshot 如何被用來回測模型。標題所稱的「版本控制搜尋」是壓軸結論,並非演講的主體。

Ahern 的聽眾是 AI Engineer 社群的工程師,以及 Exa 所服務的金融服務業典型客戶——對沖基金、資產管理公司、主權財富基金、創投、保險公司。讀者讀完應該能掌握:Snapshot 兩種存取模式的運作機制、回測系統的三種典型架構,以及 Ahern 用工作坊案例示範的過擬合陷阱。

代理式搜尋與人類搜尋的差異,在於搜尋量與表達的囉嗦程度

Ahern 開場先問全場:還有多少人直接開 Google 搜尋,多少人改成叫 ChatGPT、Claude 或 Instinct、Muse 這類較新的工具去搜?大多數人舉手選了代理。他解釋原因:代理「不會累」、「相當好說話」,為了達成一個目標會跑很多次搜尋;人類則是打幾個關鍵字,祈禱前幾筆結果能用,頂多換個說法再試一次,然後放棄。代理很囉嗦——它會詳細描述自己要什麼,把整個搜尋空間翻遍才回應——這代表每項任務背後的搜尋次數遠高於人類。

這個轉變正是 Exa 的市場。Ahern 說明 Exa 自建爬蟲基礎設施、資料庫、嵌入模型與檢索架構,也是 Cursor(為 coding agent 抓取最新檔案)、Gamma(把 2018 年 Apple 的 SEC 資料拉進簡報)等系統背後的搜尋層。在金融領域,他點名對沖基金尋找 alpha、保險公司查核交易對手與風險模型,以及創投試圖在「下一家 Instinct 爆紅之前先找到它」——這些資訊都以非結構化的形式散落在開放網路上。

Exa 賣三件事:品質、整段軌跡的成本、延遲

Ahern 把 Exa 的賣點歸納為三大原則。品質之所以重要,是因為工具呼叫次數越少,推論成本越低,代理也越有機會走完整段軌跡,不會被一次糟糕的檢索帶偏。Exa 近日發表了一份基準測試,聲稱能把搜尋效能與推論效能分開衡量,因為「哪個模型呼叫了哪次搜尋」會讓兩者混在一起、難以歸因。

成本方面,Ahern 認為單次搜尋的單價是錯的指標,正確的指標是代理完成任務的總成本。這正是動態摘要(dynamic highlights)的出發點:Exa 不再回傳整頁內容,也不再只從單一頁面擷取片段,而是跨所有結果擷取正確的片段;Ahern 說這能在 Token 用量比整頁文字少 95% 的前提下得到品質更高的結果,連帶壓低下游的輸入 Token 支出。

延遲方面,自建基礎設施讓 Exa 能提供極低延遲的搜尋。另一端則是 ExaAgent Ultra,於演講前幾週發布,鎖定長時間執行的深度研究;Ahern 稱它在此類別的多項基準測試上達到業界最佳,部分原因是 Exa 同時掌控搜尋框架(search harness)與它和代理框架(agentic harness)互動的方式。

Snapshot 收錄逾 4,000 億筆帶日期的網頁版本,兩種方式可搜

Exa 持續爬取網路,每一輪都檢查內容是否更新。正因為有這些檢查,它在檢查當下就留下一份該網址的版本,逐步累積成版本化的歷史紀錄——目前超過 4,000 億筆快照,可依日期搜尋。Ahern 說明兩種存取模式:

| 模式 | 你提供什麼 | 你得到什麼 |
|---|---|---|
| 網址查詢 | 一個網址與目標日期 | 該頁面在該日期當天或之前的樣貌,如同當時發出請求所見 |
| 版本搜尋 | 一組搜尋查詢與一個過去的日期 | 只回傳在該日期當天或之前會被回傳的結果 |

第二種模式對金融業影響更大,因為它讓機構得以追問:在市場得知某件事之前,一次搜尋會回傳什麼。

營收預估從 700 億下修到 500 億美元,正是版本搜尋能捕捉的訊號

Ahern 的例項是 OpenAI 的年化營收。截至 10 月 1 日,Axios 最初報導的數字約為 700 億美元,形塑了市場對 OpenAI 估值的推估。Ahern 說,較近期的報導把數字放在接近 500 億美元,原因是會計處理:先前的數字算的是總營收,其中一部分來自雲端供應商,本應視為代供應商收取的過手金額,因此淨年化營收才是較合適的衡量方式。

對版本搜尋而言,重點在於:一個專門找出這類落差的代理,可以被送回更正前的網路,追問這個訊號是否更早就存在——也許藏在 SEC 申報檔案的附註裡,也許來自一家名不見經傳、事後證明是對的媒體報導。更重要的是,這件事可以回測。Ahern 描述的做法是建立約 50 個樣本的資料集,用保留集(holdout)檢驗表現,再調整模型或代理,直到它能以可泛化的方式穩定找出這類特徵。「這在網路搜尋領域算是新東西——你可以回測這件事,」他說。

即時搜尋會洩漏答案,Snapshot 堵住這個漏洞

Ahern 用併購預測來說明。對一家已被併購的公司做即時搜尋,一定會搜到併購公告,因為事情發生了,而且到處都報導過。要訓練一個預測併購的模型,你需要的是公告前一天、前七天、前一個月的網路樣貌,而且要在多家公司上測試,再看系統是否穩定預測出結果。

他歸納出三種用 Snapshot 回測系統的典型架構:

flowchart TD
    A["傳統模型(機器學習、決策樹)"] --> B["Snapshot 把非結構化網路資料轉成結構化訊號——軟體價格、情緒、條款與細則"]
    C["既有模型加上代理式功能"] --> D["Snapshot 回測某標的納入投資組合當日的負面新聞掃描或股票研究掃描"]
    E["完整的代理式預測系統"] --> F["Snapshot 控制網路工具呼叫,避免未來資訊洩漏進預測"]

第一種架構是「現狀加一」:用過去從未有可靠版本紀錄的資料來強化既有模型,例如某軟體供應商的定價頁面,或帶時間戳的情緒指標。第二種是有意思的中間路線——加入一項代理式功能,例如對一整個公司池做負面新聞掃描或股票研究掃描,預測當下透過 Exa Search 即時執行,事後再用 Snapshot 回測。Ahern 提到金融客戶的實務做法:對四個月前才納入的標的,掃描在納入當天會給出什麼結論?和今天的情況對照又如何?這就把「相信搜尋會更好」變成與既有流程之間可衡量的比較。

第三種架構是未來式:由一個代理掌管整個模擬,呼叫內部知識、資料饋送與網路,並由 Snapshot 確保網路呼叫不會直接找到併購公告、回傳 100% 的準確率。

工作坊中一個叫「Dominion」的特徵,示範了代理如何過擬合

演講前一天,Exa 辦了一場約 100 人參與的 Snapshot 延伸工作坊,大家做同一個併購預測案例。Ahern 特別點出一位高分參與者採用的特徵。第一:過去一年內,是否有投資人或大股東公開呼籲支援出售整家公司?第二:公司股價是否至少比五年高點低 60%?第三:公司名稱是否叫 Dominion?

最後一項就是過擬合,Ahern 直說。用即時資料集訓練出來的代理,會緊抓一個恰好與訓練資料相關的公司名稱。Snapshot 的價值不只是檢驗這類特徵,還在於建立評估機制與代理框架,偵測出過擬合並確認泛化能力。若只靠線上正式環境,可能得等上好幾個月,才知道某個代理式設計到底有沒有預測力。而因為 Exa 搜尋是語意搜尋,特徵可以做到分析師想要的複雜程度——Ahern 刻意舉了個荒謬的例子:搜尋創投基金裡聲譽良好的副總裁,上過 AI Engineer 播客、並在節目上講了對該播客不利的話的負面新聞——然後回測這個特徵是否真的有效。

歸根結柢,訴求只有兩個問題

Ahern 最後提出兩步呼籲。第一,試用 Exa Search,以上述品質、成本、延遲的理由,檢驗代理式網路搜尋是否真能為模型加分。第二,用 Exa Snapshot 回測這項新增功能——不論是風險模型、預測模型或代理式流程——再決定是否正式採用。

他自己點出的未解張力是:Snapshot 讓測試複雜的語意特徵變得很便宜,也讓對這些特徵過擬合變得很便宜;而保留集與泛化檢驗的紀律,責任在客戶身上,不在工具身上。值得持續觀察的是:這批 4,000 億筆快照的語料,在長尾網址上是否夠深、夠一致,足以支撐併購與負面新聞回測所需的數個月回溯期;以及一旦其他廠商發表可比的評測,Exa 另行發布的搜尋基準測試是否仍站得住腳。

來源: AI Engineer (youtube.com)
開啟原文