Vercel Workflow SDK 5 加強資料加密,讓長流程跑得更快
Workflow SDK 5: built for production
AI 助理和背景工作常要跑很久,途中還會經過佇列、傳送大量資料,遇到故障也得接著執行。
- Vercel 推出 Workflow SDK 5,會在資料離開程式前加密工作內容,也把工作流程的資料放在啟動它的區域,減少跨區傳送。Vercel 公佈的測試中,1,020 個步驟的流程從 21 分鐘縮短到 3 分鐘。
- 串流回應送達時間也從 226.1 秒降到 53.5 秒。這些數字來自特定工作和區域,其他應用的結果可能不同。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Workflow SDK 5 把加密、區域部署與執行速度放在同一版更新中,文中的基準測試也呈現長流程與串流延遲的差異。
Workflow SDK 首次推出時,目標很簡單:撰寫一般的非同步 JavaScript,讓 SDK 在發生當機、部署和長時間等待時,仍能持續執行。
去年,我們推出了這樣的 SDK,並帶來 Vercel 一向聞名的頂尖開發者體驗。接著,我們觀察客戶如何運用它打造產品。
累計超過 40 億個步驟、7 億次執行後,浮現出兩種明確的模式。
第一種是自動化:傳統工作流程會搬移資料、處理訂單、協調背景工作、管理訂閱,以及執行 ETL 和資料管線。
第二種是代理程式與執行框架:代理程式成本高昂且執行時間長,因此自然也需要具備永續性。
隨著這些工作負載日益成熟,Workflow 也隨之進化。我們始終將安全性、可靠性和效能列為優先事項。
以下說明 Workflow SDK 5 如何在這三方面實現目標。
更安全的工作流程
Workflow 的事件記錄會儲存步驟引數和回傳值,讓工作流程在當機或部署後能夠恢復執行。這些資料可能包含敏感的客戶資訊、模型脈絡、憑證和工具呼叫結果。要持久儲存這些資料,就必須提供強大的保護。
Workflow SDK 會在任何資料離開你的程式碼之前,對每個承載內容進行端對端加密。Workflow 和步驟的輸入與輸出、掛鉤承載內容及串流資料都會使用 AES-256-GCM 加密,並為每次執行使用不同的金鑰。啟用加密後,任何 Workflow SDK 後端(包括 Vercel)都只會看到並儲存密文。明文會在你的部署環境或授權的可觀測性工具中解密。
在 Vercel 上免設定即可加密
在 Vercel 上,加密不需要設定,也不需要修改程式碼。每次執行使用的金鑰是由建立該次執行的部署專屬金鑰衍生而來,因此每次執行只能解密自己的資料。工作流程程式碼不需要變更:
由於 Vercel 預設會管理金鑰,可觀測性功能仍能正常運作。名稱、時間和狀態一律可見;需要檢視承載內容時,可以在控制面板或 CLI 中解密。解密作業會在你的瀏覽器或終端機中進行,並遵循與專案環境變數相同的許可權設定;每次請求都會記錄在團隊的稽核記錄中。
在自架 Worlds 上加密
加密功能是在 SDK 中實作,因此也能在資料抵達儲存空間、佇列或串流之前,保護自架 Worlds上的承載內容。
自訂 World 可透過實作 getEncryptionKeyForRun() 並搭配你的金鑰管理來啟用加密。每次呼叫都必須為同一次執行回傳相同的 32 位元組金鑰,SDK 才能加密新的承載內容,並在重播期間解密:
v5 的其他安全性改進
跨次執行寫入的資料也會受到保護。當程式碼恢復另一個執行的掛鉤、在另一個部署環境中啟動執行,或寫入從另一個執行轉送而來的串流時,承載內容會以目標執行的公開金鑰加密。寫入端可以為該次執行加密資料,而不必讀取其中既有的承載內容。
你也可以限制敏感資料的儲存時間。將承載內容保留期限設為 experimental_retention: 0 後,輸入、輸出和串流內容會在執行完成或失敗後立即刪除。執行中繼資料仍會在可觀測性工具中顯示。
重新設計的追蹤檢視器
重新設計的追蹤檢視器讓執行過程更容易瀏覽,提供區段搜尋、縮放、縮圖導覽,以及開發期間的本機檢視功能。
執行屬性是 v5 新增的功能。你可以為執行附加可供搜尋的資訊,例如訂單 ID,之後就能依此尋找執行記錄。屬性內容是純文字,因此不應包含機密資訊。
在所有區域執行工作流程
在 Workflow SDK 4 中,每次執行都位於 iad1。即使專案部署到多個區域,每次執行的事件記錄、佇列和串流也只會儲存在其中一個區域,因此,無論步驟在哪個區域執行,都必須跨區域請求來記錄進度。
在 v5 中,我們將 Workflow 基礎架構部署到每個 Vercel Function 區域。每次執行都有自己的所在區域:狀態、佇列派送和串流都由執行開始的區域提供服務,關鍵路徑上不必跨區域往返。
預設情況下,執行會在啟動它的函式所在區域開始。部署到多個區域時,每次執行都會留在觸發它的使用者附近,不需要任何設定:
若要將執行安排在其他位置,請將區域傳給 start()。這樣一來,工作流程就能在讀取和寫入資料庫的附近執行,也能讓客戶資料留在必須存放的區域:
region 選項會決定執行資料的存放位置。步驟會在應用程式的部署位置執行,因此,若要讓步驟在該區域執行,也請將應用程式部署到該區域。現有的 v4 執行仍會留在 iad1。
基礎架構可靠性
區域隔離也能提升可靠性。某個區域發生中斷時,不必因此停止健康區域中的新執行。若專案已設定 Vercel Function 容錯移轉,步驟便可在備援區域執行,同時繼續使用執行原本所在區域的狀態。狀態仍固定在原本的區域;容錯移轉期間不會遷移。
透過匿名化遙測資料,以及與許多客戶密切合作,我們在 Workflow 執行階段中找出並修正了數十個罕見錯誤和競爭條件。Workflow SDK 也能自行從更多種類的間歇性網路錯誤中復原。
因此,使用 Workflow SDK 5 時,幾乎沒有執行因平臺或執行階段錯誤而失敗或停滯。
為代理式工作負載打造的效能
在 Workflow SDK 4 中,每次步驟呼叫都需要透過佇列跳轉一次來啟動步驟,並再跳轉一次以繼續工作流程。對速度較慢的背景自動化來說,這可以接受;但對開發人員現今正在打造的 AI 工作負載而言,會增加延遲。
代理迴圈和執行框架可能包含數千個連續事件、高輸送量的 token 串流、工具鏈和動態子代理。規模達到這種程度時,每個步驟周邊的網路和 CPU 工作就會成為瓶頸。
在 Workflow SDK 5 中,我們重寫了引擎的大部分內容,以減少額外的佇列跳轉、不必要的網路傳輸和 CPU 工作。在測量的工作負載中,延遲和額外負擔改善了 1.6× 至 25×,同時維持相同的開發者體驗,且沒有引入重大相容性變更。
以下基準測試是在 Vercel 上比較 v5.2.0 與 v4.8.12。選擇一項測量結果,即可檢視 v5 與 v4 的比較;接著播放或拖曳說明動畫,瞭解每項基準測試的具體測量內容。
Workflow SDK 5 包含數百項效能改善。以下是促成這些資料的幾項重大變更:
減少佇列跳轉
在 v4 中,每個步驟都會將執行交回佇列。v5 則可在讓出執行權之前,讓一次呼叫就地執行多個步驟(包括平行步驟),直到遇到等待、hook 或即將逾時為止。
這個執行階段也避免了不必要的持久化往返,並將步驟建立整合到執行流程中。減少佇列與網路請求,代表 CPU 處理量更少,執行階段負擔也更低。在五步驟基準測試中,步驟間負擔的 p75 從 618 ms 降至 109 ms。
增量重播
在包含 1,020 個步驟的基準測試中,v4 的 p75 負擔會隨著事件記錄增加:重播完整事件歷程所需時間與其大小成正比。在最後一段取樣範圍中,負擔達到 1,748 ms。v5.2.0 則為 70 ms。完成全部 1,020 個步驟的中位時間,從 21.0 分鐘降至 3.0 分鐘。
WebSocket 串流
永續性不應讓串流回應落後於產生回應的程式。在 Vercel World 上,v5.2.0 預設透過 WebSocket 寫入串流。在重播 52.4 秒代理程式回應的基準測試中,傳送時間中位數從 226.1 秒降至 53.5 秒。
負載壓縮可減少儲存與傳輸的資料量。AI 權杖串流經過壓縮後,平均可縮小約 80%。
這些測量結果來自 Vercel World 上、單一區域中的單一工作負載。它們有助於瞭解執行階段負擔,但不能用來預測所有應用程式的表現。
基準測試結果與方法
測量時間為 2026 年 10 月 8 日,於 Vercel 正式環境的 iad1 上進行,使用由 Vercel 管理的 World。各版本分別部署相同的應用程式。每個步驟的輸入與輸出都是 1 KB 的 JSON。
部分結果 · v4.8.12 與 v5.2.0 比較
測量專案 | v4.8.12 | v5.2.0 | 變化 |
|---|---|---|---|
第一個步驟,p75 | 418 ms | 172 ms | 快 2.4 倍 |
步驟間,p75 | 618 ms | 109 ms | 快 5.7 倍 |
執行後段負擔,p75 | 1,748 ms | 70 ms | 降低 25 倍 |
1,020 個步驟,中位數 | 21.0 分鐘 | 3.0 分鐘 | 快 7 倍 |
恢復執行,p75 | 699 ms | 425 ms | 快 1.6 倍 |
串流傳送,中位數 | 226.1 秒 | 53.5 秒 | 快 4.2 倍 |
區塊往返時間,p75 | 172 ms | 102 ms | 快 1.7 倍 |
延遲超過 1 秒的區塊次數 | 6 / 10 | 0 / 10 | 減少 100% |
完整結果(包括尾端資料)請參閱效能檔案。
World:共用的永續性基礎元件
Workflow SDK 的永續性函式以World為基礎:這是用來儲存進度、分派工作及傳遞串流的介面。同一套基礎架構現在也支援fx和durable-harness,後者可為既有的代理程式框架加入永續性。
共用的儲存、佇列與串流基礎架構有所改進時,任何使用 World 的產品都能受益。Workflow 重播執行階段內的最佳化則適用於 Workflow SDK,不會自動套用到所有代理程式框架。
請依照想採用的開發方式選擇整合方案:
Workflow SDK:使用
use workflow和use step撰寫具永續性的應用程式邏輯。WorkflowAgent:在工作流程中使用
@ai-sdk/workflow執行 AI SDK 代理程式迴圈。fx:使用 libfx 嵌入並擴充原生程式碼代理。
durable-harness:沿用現有且受支援的代理程式框架,並在底層加入永續性。
在 Vercel Sandbox 中支援Pi和OpenCode,並提供Claude Code和Codex的實驗性整合。
eve:使用由 Workflow SDK 和 Worlds 原生支援的永續性工作階段建置代理程式。
我們很快會在以 Worlds 提供永續性的 SDK 與框架目錄中加入更多產品。
使用 Workflow SDK 5 開發
除了上述改進,Workflow SDK 5 也新增:
v5 升級檔案涵蓋了變更內容。若要開始建置新的工作流程,請安裝 SDK:
Workflow SDK 也提供Python SDK,目前處於 beta 階段,具備相同的持久化工作流程、步驟、休眠功能和 hooks。