跳到正文
AI Engineer(youtube.com)· Preetam Dwivedi·· 14 天前品質評分58

AI 寫程式比 Uber 合併還快——專訪 Uber 的 Preetam Dwivedi 與 Manjari Akella

AI 寫程式比 Uber 合併還快——專訪 Uber 的 Preetam Dwivedi 與 Manjari Akella

重點導讀

Uber 工程師 Preetam Dwivedi 與 Manjari Akella 說明:AI 驅動的合併請求在兩個月內增加 44%,把 P95 落地時間從 30 分鐘推高到 3 至 4 小時;而 SubmitQ 的准入閘門(admission gating)、衝突放寬(conflict relaxation)與 StorePipe 驗證機制,讓吞吐量回到每小時 300 次落地。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

正文

Uber 的員工工程師 Preetam Dwivedi 與資深工程師 Manjari Akella 說明 AI 生成的程式碼如何讓公司單體儲存庫(monorepo)的合併佇列從每小時 90 筆送審請求暴增到 130 筆、P95 等待時間從 30 分鐘拉長到 3–4 小時,以及他們如何靠三項介入措施把吞吐量救回來——代價是主幹有時會壞掉。這場演講大部分在談這套取捨的系統工程細節:准入閘門、延後佇列、衝突放寬,並以名為 Stowpipe 的落地後驗證系統作為安全網。AI 只是引爆問題的導火線,並不是大部分執行時間的主角。

兩位講者都任職於 Uber 的開發者平臺團隊。這個涵蓋六種語言的單體儲存庫,每週要處理超過 5,000 名開發者送出的約 36,000 次提交與 27,000 個 pull request,其中以 Go 的程式碼庫規模最大、最難擴充。讀者讀完應該能掌握每項最佳化的具體機制、各階段實測的吞吐量與延遲數字,以及最核心的未解矛盾:讓送審速率翻了三倍的那項放寬措施,正是主幹會壞掉的原因,而主幹壞掉後的復原至今仍靠人工。

衝突放寬換來吞吐量,也換來會壞掉的主幹

三項介入措施中,最後一項帶來的效益最大:放寬佇列中待合併變更之間較弱的相依邊。根據講者的說法,這讓尖峰時段的吞吐量從每小時約 160 筆提升到接近 250 筆——有時還更高——增幅超過 50%,同時把 P95 送審時間維持在理想水準。代價也講得很明白:某些變更組合現在會在未經測試的情況下合併,主幹因此可能壞掉,團隊也接受了一項新義務——改在合併之後驗證,而非合併之前。

這套機制的起點,是佇列原本就有的問題。目標分析(target analysis)會把動到重疊建置目標的請求歸為同一個連通分量,而嚴格的相依鏈——請求 A 與 B 重疊、B 與 C 重疊,一路串到 F——會迫使這六個請求必須當成一個序列單元一起合併。衝突放寬把「兩者到底有沒有重疊」的是非題,換成連續分數。

  • 評分: 以重疊目標加上新引入的相依邊計算 Jaccard 分數,合成 0 到 1 之間的數值,數值越高代表重疊越強。
  • 放寬: 保留強邊、捨棄弱邊,直到達到設定的平行度目標。以演講中的範例來說,平行度設為 50% 代表至少需要三條獨立佇列,因此最弱的兩條邊(B–C 與 B–E)會被捨棄,原本六個請求的序列鏈就拆成三條各兩個請求的平行鏈。
  • 排程: 這項判斷只在新請求抵達時於本地進行,不會隨著工作進出而全域重算。這樣能保住已排定的工作、讓推測性建置一路跑到完成,代價是會帶來一些全域重算才有的圖形不穩定。

准入閘門讓開發者自己排程,換來 20% 提升

面對 AI 帶來的負載,第一項對策是在佇列前端設一道閘門,把每個進來的請求分類為小型或高成本。小型變更動到的目標較少,尖峰時段照常放行。高成本變更——橫跨多個目標或整個建置圖的那些——在尖峰時段直接退回,理由是它們需要對佇列中其他所有變更做驗證,會卡住資源。

結果是上班時段的吞吐量提升超過 20%,從每小時 130 筆增加到約 160 筆。代價落在人身上:開發者得自己當排程器,避開尖峰時段重試。負擔分配並不平均——負責橫跨整個程式碼庫的函式庫的工程師,天生就會產出高成本變更,也正是這道閘門最主要針對的物件。團隊保護尖峰產能的辦法,就是讓一部分開發者先等。

延後機制改善了開發體驗,但等待時間沒變

第二項介入把直接退回改成持久化的次要佇列。尖峰時段送進來的高成本請求會被記錄下來而非退回,等閘門允許時——例如尖峰時段結束後——再重新送進主動提交佇列。開發者只需提交一次,系統會在產能允許時放行,不必再為了搶好時段而早起或熬夜。

講者也很坦白,這只解決了一半的問題:等待時間本身完全沒變。高成本變更合併所需的時間一樣長,差別只在於不必由開發者自己盯著時機。

Stowpipe 在合併後驗證,並推進「已驗證主幹」指標

因為放寬措施會讓未經測試的變更組合進到主幹,Uber 建了一套名為 Stowpipe 的合併後驗證系統。它會監看進來的提交,並在實際主幹 HEAD 之外維護第二個參照 verified main。這個指標只會推進到已證明能建置且通過測試的提交範圍。

流程是這樣:主幹與 verified main 都停在已知良好的提交 A,接著 B、C、D 合併進來,主幹推進到 D。Stowpipe 會在 A 之上驗證 B–D;若失敗,verified main 就停在 A。隨著更多提交進來、主幹推進到 G,Stowpipe 會在 A 之上驗證 B 到 G 的完整範圍,成功後才把 verified main 推進到 G。下游消費者讀取的是已驗證的狀態。

flowchart TD
    A["已知良好的提交 A,主幹與 verified main 都在此"] --> B["提交 B、C、D 合併,主幹推進到 D"]
    B --> C["Stowpipe 在 A 之上驗證 B-D"]
    C -->|失敗| D["verified main 停在 A,觸發值班通知"]
    C -->|通過| E["verified main 推進"]
    D --> F["值班人員準備修復或回滾,經 SubmitQ 合併"]
    F --> G["更多提交合併,主幹推進到 G"]
    G --> H["Stowpipe 在 A 之上驗證 B 到 G 的完整範圍"]
    H -->|通過| I["verified main 推進到 G"]

驗證失敗時,值班人員會收到通知,必須準備修復或回滾、透過 SubmitQ 合併,再讓 Stowpipe 重新驗證,直到指標能推進為止。這套復原流程目前仍靠人工,將其自動化是團隊明列後續工作之一。

佇列送審速率翻了三倍,P95 仍守住 30 分鐘

講者公佈的關鍵數字如下:

指標2026 年 1 月2026 年 3 月三項介入全部上線後
每小時送審請求數約 90約 130尖峰約 300
P95 送審時間約 30 分鐘3–4 小時約 30 分鐘
主幹狀態正常正常可能壞掉,靠合併後驗證攔下

2026 年 1 月到 3 月之間請求量增加 44%,主要歸因於 AI 生成的變更。相較 1 月基線的累計吞吐量增幅則為 233%。順序很重要:單靠閘門達到約 160,放寬措施把它推到約 250、有時更高,而約 300 的尖峰數字是整套變更全部上線後的總結數字。

SubmitQ 的原始設計,假設的是人類步調的流量

在 AI 出現之前,合併佇列 SubmitQ 是靠預測哪些未來狀態能在主幹上成立來維持主幹正常:單獨 A、單獨 B、以及 A 與 B 的組合,哪一組能讓主幹保持正常就合併哪一組。它要防的失敗模式很單純:兩個 pull request 各自對基準分支通過 CI,A 乾淨合併,接著 B 合併卻把建置弄壞,因為 B 從未對 A 的變更測試過。在數千名工程師、每天數百筆變更的規模下,這對整間公司是持續不斷的隱形成本。

原本有三項最佳化讓它足以撐住人類步調的流量:

  • 目標分析 讓動到不同服務的變更各自建置、各自測試,不必全部排進同一條佇列序列化處理。
  • 機率式推測 利用歷史建置資料與變更特徵,為每筆變更的成功機率打分,並優先建置最可能需要的專案。
  • 跳過大型變更 讓小型變更進入佇列後,不必排在一條建置很久的長鏈後面枯等。

講者指出,AI 浪潮期間這套系統一直讓主幹保持正常——問題出在延遲,而非正確性,直到放寬措施改變了這一點。

下一步:批次處理、分服務的正常訊號、自動化復原

演講最後提出三項後續方向。第一,在 SubmitQ 中把相關變更批次處理,讓同樣的工作量只需跑更少的建置,用相同資源換到更高吞吐量。第二,把單一的 verified main 指標換成更細緻的訊號——讓特定服務或專案能各自被標記為正常——這樣壞掉的提交只會擋住主幹受影響的部分,而非全部,也能改善發布決策。第三,把「修復或回滾再合併」的迴圈自動化,縮短主幹壞掉後的復原時間。

團隊把自己的整體立場定調為混合式:該在合併前驗證的地方就保留,風險可接受的地方就放寬,再靠 Stowpipe 做完整的合併後驗證,讓下游能信任已驗證的狀態。SubmitQ 與 Stowpipe 都是公開開發,講者也請聽眾參考先前深入介紹 SubmitQ 內部機制的演講。

這個未解的矛盾值得持續關注。准入閘門之後的每一次吞吐量提升,都來自接受「主幹可能壞掉」這件事,而安全網能否發揮作用,取決於值班工程師被通知後親手修復。在復原自動化與分服務正常訊號上線之前,這套系統的實際可靠性仍受制於人對主幹故障的反應速度——而這正是佇列原本要保護的稀缺注意力。演講留下的第二個問題是:AI 驅動的流量曲線會不會繼續上彎?兩個月內 44% 的跳升是這裡每一項設計選擇的前提,下一輪最佳化的規模也是照著這個趨勢會延續來估算的。

來源: AI Engineer (youtube.com)
開啟原文

讀者討論

理性交流 · 即時討論