AI 寫程式比 Uber 合併還快——專訪 Uber 的 Preetam Dwivedi 與 Manjari Akella
AI 寫程式比 Uber 合併還快——專訪 Uber 的 Preetam Dwivedi 與 Manjari Akella
Uber 工程師 Preetam Dwivedi 與 Manjari Akella 說明:AI 驅動的合併請求在兩個月內增加 44%,把 P95 落地時間從 30 分鐘推高到 3 至 4 小時;而 SubmitQ 的准入閘門(admission gating)、衝突放寬(conflict relaxation)與 StorePipe 驗證機制,讓吞吐量回到每小時 300 次落地。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Podcast 專家音訊節目
收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情
Uber 的員工工程師 Preetam Dwivedi 與資深工程師 Manjari Akella 說明 AI 生成的程式碼如何讓公司單體儲存庫(monorepo)的合併佇列從每小時 90 筆送審請求暴增到 130 筆、P95 等待時間從 30 分鐘拉長到 3–4 小時,以及他們如何靠三項介入措施把吞吐量救回來——代價是主幹有時會壞掉。這場演講大部分在談這套取捨的系統工程細節:准入閘門、延後佇列、衝突放寬,並以名為 Stowpipe 的落地後驗證系統作為安全網。AI 只是引爆問題的導火線,並不是大部分執行時間的主角。
兩位講者都任職於 Uber 的開發者平臺團隊。這個涵蓋六種語言的單體儲存庫,每週要處理超過 5,000 名開發者送出的約 36,000 次提交與 27,000 個 pull request,其中以 Go 的程式碼庫規模最大、最難擴充。讀者讀完應該能掌握每項最佳化的具體機制、各階段實測的吞吐量與延遲數字,以及最核心的未解矛盾:讓送審速率翻了三倍的那項放寬措施,正是主幹會壞掉的原因,而主幹壞掉後的復原至今仍靠人工。
衝突放寬換來吞吐量,也換來會壞掉的主幹
三項介入措施中,最後一項帶來的效益最大:放寬佇列中待合併變更之間較弱的相依邊。根據講者的說法,這讓尖峰時段的吞吐量從每小時約 160 筆提升到接近 250 筆——有時還更高——增幅超過 50%,同時把 P95 送審時間維持在理想水準。代價也講得很明白:某些變更組合現在會在未經測試的情況下合併,主幹因此可能壞掉,團隊也接受了一項新義務——改在合併之後驗證,而非合併之前。
這套機制的起點,是佇列原本就有的問題。目標分析(target analysis)會把動到重疊建置目標的請求歸為同一個連通分量,而嚴格的相依鏈——請求 A 與 B 重疊、B 與 C 重疊,一路串到 F——會迫使這六個請求必須當成一個序列單元一起合併。衝突放寬把「兩者到底有沒有重疊」的是非題,換成連續分數。
- 評分: 以重疊目標加上新引入的相依邊計算 Jaccard 分數,合成 0 到 1 之間的數值,數值越高代表重疊越強。
- 放寬: 保留強邊、捨棄弱邊,直到達到設定的平行度目標。以演講中的範例來說,平行度設為 50% 代表至少需要三條獨立佇列,因此最弱的兩條邊(B–C 與 B–E)會被捨棄,原本六個請求的序列鏈就拆成三條各兩個請求的平行鏈。
- 排程: 這項判斷只在新請求抵達時於本地進行,不會隨著工作進出而全域重算。這樣能保住已排定的工作、讓推測性建置一路跑到完成,代價是會帶來一些全域重算才有的圖形不穩定。
准入閘門讓開發者自己排程,換來 20% 提升
面對 AI 帶來的負載,第一項對策是在佇列前端設一道閘門,把每個進來的請求分類為小型或高成本。小型變更動到的目標較少,尖峰時段照常放行。高成本變更——橫跨多個目標或整個建置圖的那些——在尖峰時段直接退回,理由是它們需要對佇列中其他所有變更做驗證,會卡住資源。
結果是上班時段的吞吐量提升超過 20%,從每小時 130 筆增加到約 160 筆。代價落在人身上:開發者得自己當排程器,避開尖峰時段重試。負擔分配並不平均——負責橫跨整個程式碼庫的函式庫的工程師,天生就會產出高成本變更,也正是這道閘門最主要針對的物件。團隊保護尖峰產能的辦法,就是讓一部分開發者先等。
延後機制改善了開發體驗,但等待時間沒變
第二項介入把直接退回改成持久化的次要佇列。尖峰時段送進來的高成本請求會被記錄下來而非退回,等閘門允許時——例如尖峰時段結束後——再重新送進主動提交佇列。開發者只需提交一次,系統會在產能允許時放行,不必再為了搶好時段而早起或熬夜。
講者也很坦白,這只解決了一半的問題:等待時間本身完全沒變。高成本變更合併所需的時間一樣長,差別只在於不必由開發者自己盯著時機。
Stowpipe 在合併後驗證,並推進「已驗證主幹」指標
因為放寬措施會讓未經測試的變更組合進到主幹,Uber 建了一套名為 Stowpipe 的合併後驗證系統。它會監看進來的提交,並在實際主幹 HEAD 之外維護第二個參照 verified main。這個指標只會推進到已證明能建置且通過測試的提交範圍。
流程是這樣:主幹與 verified main 都停在已知良好的提交 A,接著 B、C、D 合併進來,主幹推進到 D。Stowpipe 會在 A 之上驗證 B–D;若失敗,verified main 就停在 A。隨著更多提交進來、主幹推進到 G,Stowpipe 會在 A 之上驗證 B 到 G 的完整範圍,成功後才把 verified main 推進到 G。下游消費者讀取的是已驗證的狀態。
flowchart TD
A["已知良好的提交 A,主幹與 verified main 都在此"] --> B["提交 B、C、D 合併,主幹推進到 D"]
B --> C["Stowpipe 在 A 之上驗證 B-D"]
C -->|失敗| D["verified main 停在 A,觸發值班通知"]
C -->|通過| E["verified main 推進"]
D --> F["值班人員準備修復或回滾,經 SubmitQ 合併"]
F --> G["更多提交合併,主幹推進到 G"]
G --> H["Stowpipe 在 A 之上驗證 B 到 G 的完整範圍"]
H -->|通過| I["verified main 推進到 G"]
驗證失敗時,值班人員會收到通知,必須準備修復或回滾、透過 SubmitQ 合併,再讓 Stowpipe 重新驗證,直到指標能推進為止。這套復原流程目前仍靠人工,將其自動化是團隊明列後續工作之一。
佇列送審速率翻了三倍,P95 仍守住 30 分鐘
講者公佈的關鍵數字如下:
| 指標 | 2026 年 1 月 | 2026 年 3 月 | 三項介入全部上線後 |
|---|---|---|---|
| 每小時送審請求數 | 約 90 | 約 130 | 尖峰約 300 |
| P95 送審時間 | 約 30 分鐘 | 3–4 小時 | 約 30 分鐘 |
| 主幹狀態 | 正常 | 正常 | 可能壞掉,靠合併後驗證攔下 |
2026 年 1 月到 3 月之間請求量增加 44%,主要歸因於 AI 生成的變更。相較 1 月基線的累計吞吐量增幅則為 233%。順序很重要:單靠閘門達到約 160,放寬措施把它推到約 250、有時更高,而約 300 的尖峰數字是整套變更全部上線後的總結數字。
SubmitQ 的原始設計,假設的是人類步調的流量
在 AI 出現之前,合併佇列 SubmitQ 是靠預測哪些未來狀態能在主幹上成立來維持主幹正常:單獨 A、單獨 B、以及 A 與 B 的組合,哪一組能讓主幹保持正常就合併哪一組。它要防的失敗模式很單純:兩個 pull request 各自對基準分支通過 CI,A 乾淨合併,接著 B 合併卻把建置弄壞,因為 B 從未對 A 的變更測試過。在數千名工程師、每天數百筆變更的規模下,這對整間公司是持續不斷的隱形成本。
原本有三項最佳化讓它足以撐住人類步調的流量:
- 目標分析 讓動到不同服務的變更各自建置、各自測試,不必全部排進同一條佇列序列化處理。
- 機率式推測 利用歷史建置資料與變更特徵,為每筆變更的成功機率打分,並優先建置最可能需要的專案。
- 跳過大型變更 讓小型變更進入佇列後,不必排在一條建置很久的長鏈後面枯等。
講者指出,AI 浪潮期間這套系統一直讓主幹保持正常——問題出在延遲,而非正確性,直到放寬措施改變了這一點。
下一步:批次處理、分服務的正常訊號、自動化復原
演講最後提出三項後續方向。第一,在 SubmitQ 中把相關變更批次處理,讓同樣的工作量只需跑更少的建置,用相同資源換到更高吞吐量。第二,把單一的 verified main 指標換成更細緻的訊號——讓特定服務或專案能各自被標記為正常——這樣壞掉的提交只會擋住主幹受影響的部分,而非全部,也能改善發布決策。第三,把「修復或回滾再合併」的迴圈自動化,縮短主幹壞掉後的復原時間。
團隊把自己的整體立場定調為混合式:該在合併前驗證的地方就保留,風險可接受的地方就放寬,再靠 Stowpipe 做完整的合併後驗證,讓下游能信任已驗證的狀態。SubmitQ 與 Stowpipe 都是公開開發,講者也請聽眾參考先前深入介紹 SubmitQ 內部機制的演講。
這個未解的矛盾值得持續關注。准入閘門之後的每一次吞吐量提升,都來自接受「主幹可能壞掉」這件事,而安全網能否發揮作用,取決於值班工程師被通知後親手修復。在復原自動化與分服務正常訊號上線之前,這套系統的實際可靠性仍受制於人對主幹故障的反應速度——而這正是佇列原本要保護的稀缺注意力。演講留下的第二個問題是:AI 驅動的流量曲線會不會繼續上彎?兩個月內 44% 的跳升是這裡每一項設計選擇的前提,下一輪最佳化的規模也是照著這個趨勢會延續來估算的。