在 ChatGPT 裡打造專屬理財代理 - OpenAI 的 Stefano Fabbri 與 Oliver Steffmann
在 ChatGPT 裡打造專屬理財代理 - OpenAI 的 Stefano Fabbri 與 Oliver Steffmann
OpenAI 的 Stefano Fabbri 與 Oliver Steffmann 示範如何運用外掛、技能與 Codex,在 ChatGPT 內打造財富管理代理;結論是:決定能否上線成功的關鍵在於評估(evals)與兼顧 Token 效率的模型選擇,而非自建嵌入向量。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Podcast 專家音訊節目
收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情
Stefano Fabbri 與 Oliver Steffmann 是 OpenAI 應用 AI 工程團隊成員,負責紐約地區金融機構客戶。他們的論點是:銀行或資產管理公司部署 AI 最快的路徑,不是自行打造一套客製化應用,而是把內部資料與邏輯打包成技能(skill)與外掛(plugin),放進企業已經核准的介面裡——網頁端的 ChatGPT for Financial Services,以及桌機端的 Codex。這場議程是實作工作坊,不是座談:前三分之一談產品導覽,並在 ChatGPT for Financial Services 上做一個財富管理演練;其餘時間則是 Codex 的開發者實作軌,涵蓋技能、外掛、MCP 連線、外掛擴充、企業沙箱、模型成本取捨、評測(eval)與自動研究。標題承諾的「打造金融代理」主要落在 Codex 那半場實現,與會者會實際走過建立一個外掛與自訂 UI 擴充的流程。
兩位講者都屬於面對客戶的職位,協助金融機構把模型推進到正式環境;第三位團隊成員 Dom 也從臺下加入,說明一個原本獨立運作的深度研究應用,如何被重做成 Codex 外掛。以下簡報涵蓋本產品的資料與本體層、外掛與技能的區別、以優質技能搭配小模型的成本論述、讓「在既有介面內部署」可行的安全控管,以及兩位講者對評測與目標模式研究的看法——須留意的是,多項產品細節被描述為早期功能或僅限網頁版,且多數效能說法都是講者自己的說法。
ChatGPT for Financial Services 是調校過的產品,不是調校過的模型
Fabbri 與 Steffmann 明確表示,底層模型與一般 ChatGPT 相同;被客製化的是圍繞模型的產品,包含三個部分:資料、任務導向訓練與產出物生成。資料層是最實質的賣點。內建來源包括 SEC 申報檔案、市場行情(延遲約 15 分鐘)、新聞、未上市公司檔案與法說會逐字稿,並點名與 LSEG、PitchBook、Crunchbase 的合作。Fabbri 說,差異化在於每一份資料集都是與供應商共同匯入,並預先處理成模型容易消化的格式——「不只是把原始資料丟進去」,而是一層脈絡層,說明申報檔案裡哪些內容相關、如何避免基本誤解,例如市價與報酬率的差別。
被直接問到是否有獨立的本體層或客製化嵌入(embedding)時,Fabbri 說沒有用到嵌入,並把機制描述為「某種工具呼叫,但針對該資料集做了高度客製化」。他確認底層資料結構並未開放給使用者,因為產品鎖定的是知識工作者而非工程師;目前也沒有針對金融資料的 CLI 或 API 存取——這個限制他提了兩次,並表示未來可能改變。
| 元件 | OpenAI 建了什麼 | 使用者看到什麼 |
|---|---|---|
| 資料 | SEC 申報檔案、延遲約 15 分鐘的市場行情、新聞、未上市公司檔案、法說會逐字稿;與 LSEG、PitchBook、Crunchbase 合作 | 代理直接查詢來源,無須設定 |
| 模型調校 | 以併購、股票研究等金融工作進行訓練 | 開箱即對金融任務處理得更好 |
| 產出物 | 簡報、試算表與範本重製能力 | 格式化的 Excel/PowerPoint 輸出,參考範本可重複使用 |
針對投資銀行與股票研究推出的外掛,被描述為技能庫加上 MCP 伺服器,並與未具名的頂尖投銀、資產管理公司與研究機構共同驗證。Fabbri 的框架是 80/20 論述:外掛提供扎實、貼近產業的基準,客戶再補上最後 20% 的客製化。Steffmann 補了一段個人經驗:他在本機跑估值外掛後,才真正掌握投銀客戶在問什麼。
技能便宜且易於分享;外掛才是企業整合所在
這場議程最清楚的概念貢獻,是把技能、外掛與外掛擴充分成三層,兩位講者反覆回到這個區分,因為 Steffmann 坦言外掛擴充他一開始很難理解。
- 技能——以自然語言寫成的 markdown 檔案,承載可重複使用的提示或領域知識。Codex 端可用,網頁端目前不支援。容易建立,也容易建過頭。
- 外掛——一個封裝,內含技能、用於系統對系統或代理使用者身分驗證的 MCP 伺服器、工具設定與 UI 元件,壓縮成檔即可部署。ChatGPT for Financial Services 本身就是一個外掛。
- 外掛擴充——客製化介面本身:應用程式左下角的自訂圖示、自訂設定與導覽,以及可依對話內容或檔案型別情境式出現的 UI。目前僅限桌機版;兩位講者說網頁版支援即將推出。
Steffmann 對技能氾濫的建議,在廠商場子裡罕見地直白:他最近告訴某個客戶,他們的技能太多了,建議收斂到核心能力,例如投資組合分析或交易分析,而不是把每個工作流程步驟都寫成技能。技能太多難以維護、難以在團隊間分享,還可能拖慢處理速度。他的經驗法則是:想要控管與封裝,就偏向外掛;如果你是前臺量化研究人員、只在本機反覆迭代,Codex 上的技能就夠了。Fabbri 補充,技能通常能在模型小幅升級後繼續沿用,維護成本不高;而且模型越聰明,需要的規格說明越少。
「我最近才建議一位客戶,我覺得你們的技能太多了……把那個留成技能,但不要把你工作流程裡的每件事都做成技能,因為那會變得很難維護。」——Oliver Steffmann
關於產出物品質,Fabbri 聲稱過去六個月在格式還原度上有跳躍式進步——試算表能達到投銀標準,而不只是數字正確——並建議一個實用測試:把現成範本餵給模型,要它重現格式,再針對殘留細節修正技能。
成本論述:前沿模型當協調者,便宜模型跑子代理
被追問 Token 效率時——Fabbri 說這大約是過去三個月客戶最在意的問題——他提出的是一套模型選擇模式,而非單一建議。真正全新的工作,例如新程式碼庫、開放式研究,用最頂尖的模型(Astra)。可重複的任務,用一個寫得好的技能搭配較便宜的模型,例如 Luna 或 6.1 Sol,就能找回大部分效能。在多代理架構中,協調者應該是最聰明的代理,子代理則可跑在 Terra 或 Luna 上;他估計整體結果仍能達到約 95%。
Steffmann 以自己的工作流程佐證:他用 Astra 建了工作坊網站,讓它跑了一個週末,之後再用 Sol 微調,因為 Sol 更快、更有效率。兩位講者都強調,每次有新模型推出,都要重新評估投入程度與價效比。工作坊環境本身設定為 Token 無上限,並在 6.1 Sol 上開啟「超快速」模式;兩位講者說平均約每秒 300 個 Token——這個細節應視為工作坊的便利設定,而非一般可用性的宣稱。
Codex 是開發者介面,其執行框架是開源的
後半場轉向 Codex,兩位講者提出三個理由,說明金融機構為何該在這裡開發,而不是另建一套獨立應用。第一,Codex 的執行框架(harness)是開源的,企業可以在使用官方應用之餘,檢視並客製化執行器。第二,OpenAI 的模型就是在這套框架內做後訓練,因此在此能榨出更多效能——Fabbri 的解釋很簡單:程式碼庫就在訓練資料裡。第三,部署路徑更短:在已核准的介面內建立外掛,可跳過新內部應用會面臨的漫長審核流程,而企業控管機制能決定哪位員工能用哪個外掛、能碰哪些資料。
兩項技術功能支撐了長時間任務的故事。壓縮模式(compaction mode)會用一個次要模型掃過對話,剔除冗餘、把上下文控制在限制內;Fabbri 認為這讓數小時級的任務變得可行。子代理的生成由代理自行決定,「ultra」模式會促使它更常分派工作。他舉的實例是:拿一篇關於布朗運動與選擇權定價的計量金融論文,要 Codex——當時還是 5.5 版,比這場議程早了幾個月——重現程式碼庫、產生數值結果並與論文核對。任務跑了約兩小時,重現了隨機模擬與模型校準;他說沒有壓縮模式根本做不到。
接著 Dom 說明,他團隊原本做成獨立產品的深度研究應用,為何被重做成外掛。原版使用一個規劃器把問題拆成子問題、獨立的子代理各自研究,再由一個批判代理調和衝突發現、並在報告未達標準時開啟新一輪調查。重做的理由是使用者整合:做這些分析的分析師不會一直另外開一個網站,所以工作流程搬進 Codex,改用它的子代理協調與同分布工具呼叫,取代原本的客製連線。結果是可依使用者客製——不同資料來源、不同品質門檻——而不是一個黑箱。
flowchart TD
U["Codex 或 ChatGPT for Financial Services 的使用者"] --> P["外掛:技能 + MCP 伺服器 + UI"]
P --> S["技能:markdown 領域知識與範本"]
P --> M["MCP:內部投資組合、CRM 或資料庫"]
P --> F["ChatGPT FS 脈絡層:申報檔案、市場行情、逐字稿"]
P --> E["外掛擴充:自訂 UI、設定、導覽"]
M --> R["介面之外的系統紀錄"]
E --> U
沙箱與政策檔,讓「在既有介面內部署」站得住腳
Steffmann 刻意花了一段時間談安全,因為他說這是企業全面部署 Codex 時第一個被提出的問題。控管是層層堆疊的:最外層是企業網路安全與端點檢查,再來是 Codex 自己在使用者端執行任何東西時的外圍沙箱,最後是部署時由管理員推送下來的 config.toml 政策。這些政策可以限制外掛能連哪些網址、能存取哪些本機資料夾,以及特定團隊能用哪些外掛。他也說明瞭一套「守門員」(guardian)機制,會自動化部分核准判斷,讓使用者不必為每個非敏感動作逐一點選確認——在安全政策與終端使用者便利之間取得平衡。
Fabbri 把這件事連到受監管產業的可稽核性:像代理投票這類流程,團隊會建立標準化日誌,讓審查者能把每個決策追溯回資料來源與邏輯,這些日誌會存成外掛輸出的一部分。Dom 的代理投票例子讓架構具體起來——Codex 是使用者面對的作業系統,而系統紀錄、管理檢視與法務審查都留在它之外,透過一個外掛擴充把報告、發現、日期與來源寫回資料庫,再餵給正式環境的應用。
評測是瓶頸,目標模式是被低估的槓桿
被問到評測的市場成熟度時,Fabbri 給出全場最鮮明的回答。他認為難點不在技術,而在組織,因為評測需要領域專家與工程師同處一室,而這兩種團隊很少坐在一起。他的最佳實務是:從簡單開始,不要一開始就找 LLM 當評審,這樣才能分辨壞結果是來自評測還是代理;並把 1 到 5 分的評分拆成是非題,他說這樣效果好得多。他點名 OpenAI 以 Luna 為基礎打造的 decision API,是一個快速給出「是/否加信心度」的原語,適合放進評測流程。
關於自動研究,他指出程式與數學的交集,是近期模型(Astra、5.6)解鎖論文重現與假設迭代工作的領域,並特別點出 Codex 的目標模式:指定一個數值目標或分數,代理就會針對它反覆嘗試想法。他提到 OpenAI 在 2026 年稍早發表的一些數學成果,就是用 Codex 的目標模式產出的,而且用來攻擊某個猜想所用的提示已公開——想了解多代理邏輯實務運作的人值得一讀。Steffmann 的看法是:六個月前,這類工作靠的是提示工程與協調工程;現在槓桿在於把目標定義好,讓模型自己去協調。
這場議程留下的未解問題
整場工作坊有三個張力始終沒有解開。金融資料層是產品最強的差異化,也是最封閉的一塊:沒有嵌入、本體不公開、沒有 CLI 或 API 存取,市場行情還有授權限制——Steffmann 在與會者要求程式化取得價格時提到這點——也就是說,最有價值的資產,恰恰是開發者無法直接觸及的。介面故事同樣零碎:ChatGPT for Financial Services 只在網頁版,外掛擴充只在桌機版,技能只在 Codex,兩位講者多次告訴與會者,在這些介面整合之前,只能「自己拼湊起來」。至於那些效能說法——便宜子代理能達到 95% 的結果、投銀等級的試算表格式、數小時自主重現一篇計量論文——都是講者自己的說法,現場沒有提供任何基準測試;這也正是為什麼 Fabbri 最後強調「先建好評測再擴規模」,是這場議程最值得帶走的一句話。Steffmann 最後提出的通路論述——外掛市集會循 App Store 模式發展,企業內部市集也是同一個概念——是貫穿全場的策略押注;那是預測,不是結果。