跳到正文
AI Engineer(youtube.com)· Anirudh Veeraragavan·· 15 天前品質評分58

你的財務代理必須交代推論過程——Fieldguide 的 Anirudh Veeraragavan

你的財務代理必須交代推論過程——Fieldguide 的 Anirudh Veeraragavan

重點導讀

Fieldguide 的 Anirudh Veeraragavan 提出代理稽核(agentic audit)的五項控制機制——授權、執行控制、證據來源、評估完整性與人工升級——並主張五者缺一不可,才能讓 AI 做出的財務決策站得住腳。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

正文

Fieldguide 資深安全工程師 Anirudh Veeraragavan 主張,一個會做出財務決策的 AI 代理,必須能逐步交代自己的推論過程,而不是隻在評測(eval)上拿到高分就好——因為監管機關與查核人員會追問:針對某一項特定證據,這個特定結論究竟是怎麼得出的。這場演講是一段 13 分鐘的研討會簡報,全場圍繞一個實作範例——測試銀行調節表——大部分時間都在拆解四項控制(授權、執行控制、證據溯源、評測完整性),外加一個問題:代理什麼時候該停下來交棒給人。

Veeraragavan 的立場其來有自:Fieldguide 正在打造「代理式稽核(agentic audit)」工具,所以這套框架同時也是一場產品推銷(他提到公司正在徵人)。讀者應該帶走一套可重複套用的心智模型,用來為任何高風險的代理工作流程(稽核、授信、反洗錢)建立決策保證,並且清楚理解為什麼一個亮眼的評測分數,可能同時掩蓋了誤判的失敗與真正的漏判。

可辯護性是「且」:四項控制缺一不可,否則破口就會浮現

核心論點是:代理的決策唯有在四項控制全部到位時才站得住腳。Veeraragavan 把每一項都框定為其他三項無法涵蓋的獨立失效模式,最後總結這整體是一個邏輯上的 AND——少掉任何一項,就會有東西從裂縫中溜過去。

控制它回答的問題略過後的失效
授權在*這個時間點*、*這個狀態*下,針對*這個物件*,這次工具呼叫被允許嗎?人工審查過的答案在審查者眼皮底下被改掉
執行控制我能否逐步重建當時究竟發生了什麼?答案對了卻說不出怎麼來的——「那還不如說是運氣好」
證據溯源我能否把一筆引用繫結到具體、有版本的檔案來源?答案錯了,還找不到可追溯的源頭
評測完整性黃金資料真的是黃金嗎?亮眼的表面分數(例如 97%),卻掩蓋了你其實比這個數字更好還是更差

他借用稽核專業自身的標準當作標竿:一位沒做過這項工作的資深稽核員,應該能看懂執行了什麼測試、蒐集了什麼證據、得出什麼結論。他的改寫版是:「一位初次接觸這項工作的資深稽核員,能跟得上代理的思路。」

授權看的是物件與狀態,不只是許可權

第一個實作範例相當細膩。一位人工審查者把某個調節專案(一張支票)標記為可能的例外。幾天後,新的事證進來,顯示它並不是例外,於是觸發代理重跑,並把該列改寫為「無例外」。代理並沒有做錯——它有許可權、有證據,結論也正確。但它覆寫了人工已經審查並簽核過的內容。

Veeraragavan 從中得出的教訓是:授權不是問「這次工具呼叫被允許嗎」,而是問「在這個時間點、這個狀態下,針對這個物件,這次工具呼叫被允許嗎」。代理應該能以自身身分草擬未經審查的列,但不能覆寫人工審查過的內容。它必須以建議的形式存在,「而不是它自己說了算的權威事實」。

執行控制意味著一串有紀錄、且可個別重跑的步驟

第二個範例快轉到未來:2027 年的一次調節作業沒有產生任何例外,一兩年後這份案件被抽中審查。重跑一次,結果卻完全不同。只靠日誌顯示代理抓了證據、做了推理、輸出了答案,並不足以重建兩次執行之間到底哪裡變了。

真正需要的是步驟層級的紀錄——一條鏈,每個步驟都有 ID、有明確宣告的輸入與輸出,並且清楚劃分確定性步驟(用程式碼抓取專案或做比對)與代理式步驟(從 PDF 擷取欄位、得出最終結論)。有了這樣的結構,你就能重跑個別步驟,而不必重跑整條流程,並精準定位某次執行是在哪一步分歧。在他的例子裡,原本那次執行是對的、較新那次是錯的——但重點不在於答對,而在於你能有把握地證明自己當時是對的,而不是碰巧猜對。

flowchart TD
    A["執行紀錄為一串步驟"] --> B["步驟:抓取證據(確定性)"]
    B --> C["步驟:從 PDF 擷取欄位(代理式)"]
    C --> D["步驟:比對/調節(確定性)"]
    D --> E["步驟:最終結論(代理式)"]
    E --> F["重跑單一步驟,而非整次執行"]
    F --> G["與先前執行比對,隔離分歧點"]

引用是一種身分識別,不是一段字串

第三個範例中,模型得出錯誤結論——它把某個專案標為有效,卻指向錯誤的帳戶。它的引用聲稱證據來自「一月銀行對帳單第二頁」。Veeraragavan 認為這種引用毫無用處:在大型案件中,許多檔案可能同名,就算名稱唯一,也無法告訴你模型看到的是哪個版本、是誰上傳的、從哪裡來的。這不是幻覺(hallucination)問題——那份檔案可能完全真實存在。

解法是把引用當成一種身分識別:具體的檔案 ID、具體的版本,以及內容的雜湊值。一旦證據被具體繫結,你就能訂出哪些證據可採的規則——例如只採信直接來自銀行的證據,而非客戶自行上傳、可能被動過手腳的檔案。

黃金評測資料不會自動變成黃金

第四項控制針對的是評測集本身。Veeraragavan 指出,「稽核被審查過,並不代表它就是對的」,黃金資料裡的錯誤可能懲罰了正確的代理,或獎勵了錯誤的代理。他點出經審查稽核過時的三種情況:後來被推翻的範例、建立在不良證據上的決策,以及稽核方法的變更。

他的例證是一個 97% 的表面分數,背後藏著兩種方向相反的錯誤。九個漏判當中,有四個其實是評測本身錯了——代理的表現比這個分數所顯示的更好。但有 12 個標為「無例外」的範例,因業務規則或方法變更而已經變成錯的——這些是代理真正的漏判。淨效果是:你根本無法判斷代理的表現是高於還是低於它的表面數字。

「我們不知道我們的代理是表現得比預期好,還是比預期差。這個分數掩蓋了很多關於代理實際效能的重要脈絡。」

升級處理必須易於驗證,但難以核准

交棒給人的環節,串回了全部四項控制。他列出的觸發條件包括:代理試圖更動人工已審查過的工作、新的執行結果與先前的執行不一致,或證據未通過溯源規則。他為這些升級處理設計的原則刻意不對稱——「易於驗證,但未必易於核准」——因為自動化偏誤(automation bias)真實存在:你三不五時就通知人,他們就會開始對什麼都按同意。所以只有例外情況才該被標記,而且每個標記都應直白說明哪裡出了問題、需要人在哪裡介入。他的例子點出一筆花了 11 個營業日才清算的存款,並指明該調查的差異所在。隱含的營運假設是:代理處理大約 80% 的案件,人則被拉進來處理剩下的 20%,而在那 20% 裡,人應該握有足夠脈絡做出好判斷。

代價是真實的詐欺,而這套模式可推廣到稽核之外

Veeraragavan 用 Peregrine Financial Group 為整套框架立下地基。這家總部位於愛荷華州的券商,他說曾進行長達 20 多年的銀行帳戶詐欺——帳面上聲稱超過 2 億美元,銀行實際卻只持有 500 萬美元,詐欺曝光時約有 2 億美元憑空消失。他明確表示無意追究成因或責任歸屬,只藉此確立:在金融領域,做錯事的後果極為嚴重,決策必須在多年之後依然站得住腳。

接著他把四項控制延伸到稽核之外:在授信,追問一筆貸款為何核准或婉拒;在反洗錢,釐清關閉或升級一則警示背後有什麼證據。名詞變了,原則沒變。他的結語標準毫不客氣:

「如果你的辯解是『模型說的』,在今天的世道裡,這恐怕過不了關。」

值得持續關注的未解張力在於:這套框架的強項——大量記錄、版本控管、證據繫結——同時也是它的成本,而 Veeraragavan 並未說明規模較小的公司負擔得起多少這樣的基礎設施,也沒交代 80/20 的人工審查比例是怎麼推匯出來的。這場演講提供的是一套框架和一組失敗案例,尚不足以證明這些控制真能減少實務上的查核缺失。

來源: AI Engineer (youtube.com)
開啟原文

讀者討論

理性交流 · 即時討論