你給代理的每一次糾正都是資料——Paper Compute 的 Brian Douglas
你給代理的每一次糾正都是資料——Paper Compute 的 Brian Douglas
Paper Compute 的 Brian Douglas 說明,如何把工程師對代理工作階段的 8 萬筆軌跡中提出的反對意見加以標註,藉此訓練一個 40 億引數的小型「分身審查者」模型,模仿資深工程師的審查意見。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Podcast 專家音訊節目
收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情
Paper Compute 的開發者 Brian Douglas 主張,工程師對編碼代理(coding agent)提出的糾正,是他們產出最有價值的資料;團隊應該把這些「被打回」的時刻捕捉下來並加上標記,用來培養審查技能,或微調出能在人類審查者之前先抓出代理錯誤的模型。這場十二分鐘的演講大部分時間都在談這條管線的運作機制——擷取工作階段軌跡、標記 pushback、後訓練一個小型審查模型——標題中「對你的代理口出惡言」的說法只短暫帶過,作用是吸睛的鉤子,而非主題本身。
Douglas 講的是親身實踐:過去大約六到八個月,他在 Paper Compute 打造軌跡擷取與沙箱工具,而整套工作的出發點是一個切身缺口——他並非職業 Rust 工程師,卻在工作中交付 Rust 程式碼,因此他得靠代理,也靠一位名叫 Matt 的人類同事的 pushback,來抓出他自己看不出來的問題。讀者讀完應該能具體掌握:代理工作階段資料如何變成標記好的資料集、資料集如何變成審查技能或微調模型,以及為什麼 Douglas 認為程式碼審查從 GitHub 轉移到本機 harness,正悄悄抹去團隊所依賴的共同紀錄。
每一次人類 pushback,都是代理缺少脈絡的訊號
Douglas 的核心觀察是:當人類工程師對代理提出反對意見,通常意味著人類握有代理沒有的知識。他在自己的工作階段主控臺裡建了一個叫「pushback」的標籤,只要工程師否決或糾正代理的產出,他就貼上這個標籤。他最密切觀察的模式,是同事 Matt 寫 Go 或 Rust 的時候:Matt 一提出反對,理由通常是「我們的 API 結構早就這樣定了」——程式碼或許能編譯,卻違背了團隊對整體程式庫結構與互動方式所做的決定。第二個常見的觸發點,是代理因為不知道某些東西已經存在,而重複打造了相同的服務。
Douglas 自己的處境恰好與 Matt 相反。他自稱「Rust 初級工程師」,說自己缺乏足夠脈絡去告訴代理它做了奇怪的選擇,所以只能照單全收 Rust 的產出。代價在審查時浮現:他開了 pull request,人類工程師提出反對,但等到自動審查(他點名 Greptile)給出五分之五的分數,他就放行了。他之所以要標記 pushback 資料,就是想在 PR 開出去之前先補上這個缺口。
「每次他提出反對,都是個好訊號,代表他握有代理沒有的知識。」
管線從擷取軌跡出發,最終產出一個會像資深工程師那樣據理力爭的審查者
Douglas 現場示範了完整迴路。他會擷取每一個代理工作階段——本機端用他的開源專案 Tapes(tapes.dev,Apache 2.0,以 Postgres 為後端的軌跡擷取服務),或集中用 Paper Compute 的主控臺,讓同事共用同一個資料儲存並貼標籤。他從標記好的工作階段建出資料集,再做出一支命令列工具 Twin Review:只要給它一個 PR 編號(他示範用 381),工具就會以 Matt 的身分審查程式碼,而且只依據軌跡資料,不看 GitHub 上的審查紀錄。
接著,他拿 Matt 每一次對 Go 或 Rust 程式碼提出反對的案例來後訓練一個模型,要它像 Matt 在 Douglas 的 GitHub PR 上那樣產出評論。他在 Qwen 4B 模型上跑過,回報「效果相當不錯」。他也提到另一條路——先做技能(skill)——並且推薦這條路:「我的建議大概是先寫一個技能。以現在來說,技能大概就能發揮大部分效益。」他的團隊手邊有將近 80,000 個工作階段可以用來打造技能。
flowchart TD
A["代理工作階段在沙箱中執行"] --> B["Tapes 或 Paper 主控臺擷取軌跡"]
B --> C["工程師標記工作階段,例如 pushback"]
C --> D["彙整成標記資料集"]
D --> E["打造技能(建議優先)"]
D --> F["後訓練小型模型,例如 Qwen 4B"]
E --> G["以 PR 編號執行 Twin Review CLI"]
F --> G
G --> H["以資深工程師的口吻產出審查評論"]
微調成本低;偏好最佳化所需的硬體,多數團隊根本沒有
Douglas 清楚劃分兩種訓練路線,並直言其中一種單人開發者搆得到,另一種則否。他把專門化微調比喻成在書頁邊緣寫筆記:書是預訓練模型,頁邊筆記則是疊加其上的權重或介面卡(adapter)。直接偏好最佳化(direct preference optimization, DPO)則更像參考書摘要,而依他的經驗,它需要的算力高出許多。
| 路線 | Douglas 的比喻 | 他使用的硬體 | 他的結論 |
|---|---|---|---|
| 專門化微調 | 書頁邊緣的筆記;在預訓練權重上疊加介面卡 | 在較小的 GPU 上量化執行,例如 5090 | 在 Qwen 4B 模型上效果良好 |
| 直接偏好最佳化 | 參考書摘要 | 需要 70B 以上的模型;只能透過 Brev 上的 NVIDIA GPU 取得 | 算力需求過高,對他並不實際 |
他說自己在 Fireworks 上始終拿不到較大硬體的許可權,只能用到當地較小的 6000 系列 GPU;Brev 是他唯一能取得足夠算力、跑較重訓練的服務。對想走大模型路線的人,他的建議很直白:「這東西你得先付一大筆錢。」
審查正從 GitHub 移往私人的 harness,共同紀錄也隨之消失
Douglas 點出他團隊審查程式碼方式的一項結構性轉變:多數人現在都在命令列上審查,請 Claude 或其他 harness 審一個 PR,而不是在 GitHub 留下評論。他描述的後果是,程式碼審查正從共享、可見的產物,變成發生在個人 harness 裡的事,「沒有任何監督、沒有評論,也沒有任何東西會直接導向你們共用的程式碼庫」。他的 Twin Reviewer 之所以不開源,正是這個原因——他說裡頭含有敏感資料,所以從未釋出,不過他在 Fireworks 上重建了同一套模式來示範做法。
代理會重新發明它不知道存在的函式庫,而初級工程師抓不出來
Douglas 反覆回到的失敗模式,是代理重建了早已存在的東西——測試用的 mock 函式庫,或者用他的話說,「重新發明 Kubernetes 這類東西」。他承認這是誇飾,但說這種事在熱門開源專案裡真的發生過。它能通過審查的原因,還是同一個脈絡缺口:不知道那個函式庫存在的工程師,會照單全收代理的產出。這也是為什麼他認為值得從軌跡裡挖的四類素材是:pushback、道歉、被標記為值得注意的「黃金工作階段」,以及回歸問題。
Vibe coding 把造就資深工程師的反覆練習整碗端走
Douglas 把這套工具連結到技能養成的問題,引用 Addy Osmani(現於 Anthropic 的 Claude Code 團隊)的文章,指出初級工程師的養成路徑正在消失。傳統的初級到資深晉升,靠的是一次次反覆練習——反覆琢磨真實程式碼——而這些練習如今被交給了代理。Douglas 拿自己當例子說明這個缺口:他從未以寫 Rust 為職業(大約十年前在副業專案寫過一些),如今卻在 Paper Compute 天天使用;他還引用 Rick Rubin 的例子——Rubin 不會演奏任何樂器,卻製作了 Beastie Boys——說這就是人們拿來類比 vibe coding 的寫照。他也順帶推薦 Rubin 的著作《The Creative Act: A Way of Being》,認為是思考這波轉變的必讀。
平行代理只對定義明確的工作才有擴充性
Douglas 的 Sweeper Agent 專案是他對自我修復基礎設施的示範:多個平行代理各自解決一個具體、定義清楚的問題——寫檔案、寫測試、清理程式碼——同時啟動。他說自己可以一次擴充到十個,也曾同時跑約 200 個 Daytona 沙箱。他暗示的限制在於範圍:這套做法適用於定義得夠嚴謹、足以交辦的工作,不適用於開放式的工程問題。他近期不少心力,都花在清理自己過去 18 個月用 vibe coding 做出來的軟體。
整場演講未解的張力在於:Douglas 用來補自己脈絡缺口的解方——訓練一個模型去模仿那位會提出反對的資深工程師——恰恰自動化了原本會教他寫 Rust 的那場審查對話。他承認這個取捨,卻沒有給出答案;而他指出可用來複製這套做法的工具(Tapes、技能、evals、小模型微調)現在全都唾手可得,他示範的集中式主控臺則還在候補名單上。值得持續觀察的是:標記好的 pushback 資料會不會成為團隊固定維護的標準產物,以及審查評論究竟會回到共享介面,還是繼續留在個人的 harness 裡。