跳到正文
Vercel Blog(vercel.com)· Andrew Barba·· 6 天前精選品質評分83

Vercel 推出 eve 1.0,開源框架助你快速打造多租戶 AI 助理

Introducing eve 1.0

重點導讀

Vercel 近日正式釋出 eve 1.0,這是一套開源框架,讓開發者能在同一個「harness」裡管理模型、工具與子代理,並支援多租戶、多人協作與安全審核。

  • 框架內建的 Workflow SDK 能自動儲存進度,支援 Slack、Teams、Discord 等多個通訊管道,並且在 Vercel 上可即時部署。
  • 新版把回應延遲從 3 秒降到 0.4 秒,工作流程成本降低 76%,還提供 OpenTelemetry 追蹤與多種記憶體供應商。
  • 對想快速落地 AI 助理或軟體工廠的團隊來說,eve 1.0 提供了完整的工具箱與即時部署環境。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

此公告說明 eve 1.0 讓開發者以單一框架構建多租戶 AI 助理,對快速落地代理系統的團隊具實務參考價值。

正文 · 中文翻譯

今天我們宣佈推出 eve 1.0,這是一套用於打造可投入正式環境的 AI 助理開源架構。

自 6 月公開預覽以來,我們與早期採用者合作,為 eve 1.0 做好準備,推出 230 多個版本並合併數千個提取要求。隨著這次發布,eve 現已正式推出。

我們提升了 eve 的速度、擴充整合功能,並改善可觀測性。安全性控管讓你決定哪些動作需要核准,以及要收集哪些資料。我們也讓程式設計 AI 助理更容易使用 eve,並透過嚴謹的評估套件衡量使用體驗。

有 eve 負責處理執行框架與基礎架構,你和 AI 助理就能專注於打造產品。

以你掌控的執行框架打造可投入正式環境的 AI 助理

eve 的執行框架會持續呼叫模型、執行工具,並將工作交給子 AI 助理。你可以選擇模型、新增或替換工具、編輯指示,並決定哪些動作需要核准。開源的 Workflow SDK 會在 AI 助理執行時儲存進度,因此即使發生當機,也能從上次完成的步驟接續執行。多人協作工作階段與 AI 助理彼此呼叫功能也已內建。

若要使用代管服務,可將 eve AI 助理部署到 Vercel。Vercel Workflows 負責持久化執行,而 Vercel Sandbox 則會在隔離環境中執行 AI 助理產生的程式碼。

打造軟體工廠,將需求轉化為經測試的提取要求;建立企業知識中樞,根據業務資料回答問題;或在產品中建置面向客戶的 AI 助理。

已有數千家企業在正式環境中使用 eve,打造內部及面向客戶的 AI 助理。Rillet 以 eve 建置軟體工廠,接收客戶需求、轉換為規格、測試變更,並開啟提取要求供人員審查。Rillet 在三個月內將發布速度提高至三倍。Clay 則打造了資料 AI 助理 monty,能在 Slack 回答員工的問題。啟用兩個多月後,公司每週有 30–40% 的員工使用它。

Lindy 的 AI 助理架構評選將 eve 列為「最適合持久化後端 AI 助理」。

在多人協作工作階段中與 AI 助理合作

多人協作功能讓多位使用者能在同一個共用工作階段中與 AI 助理合作。eve 會追蹤每位使用者的發言,並將核准要求與登入請求交給正確的人處理。你可以為個別使用者或整個團隊設定記憶。

在原生 Slack 頻道中,每個討論串都是一個共用工作階段。核准要求會以按鈕顯示,只有正確的人才能回覆;即時任務卡則會顯示進度與時間。你可以直接在討論串中追問,不必再次提及 AI 助理,也可以取消目前這一輪回應,或從 Slack 重設工作階段。

環境模式讓 AI 助理即使未被提及,也能聆聽你指定的頻道內容。它會依據你為各頻道設定的目標,判斷何時發言、提供協助或承接任務,以及何時保持安靜。為了控制模型成本,每則訊息都會先由小型判斷模型篩選,只有可能是說給 AI 助理聽的訊息才會啟動新一輪回應。

Slack 是多種原生頻道之一,其他還包括 Microsoft Teams、Discord、Telegram、GitHub、Linear、Twilio、Web Chat 和 iMessage。Chat SDK 頻道則支援任何 Chat SDK 平臺介接器,包括 WhatsApp、Messenger、Google Chat 和電子郵件。每個頻道都是獨立檔案,同一個 AI 助理能在所有頻道中運作。完整清單請參閱整合目錄。

使用 Next.js 和其他架構打造 AI 助理介面

eve 1.0 擴充原生整合,支援 Next.js、Nuxt、SvelteKit、TanStack Start 和 Vite。框架整合會將代理程式與你的應用程式一同建置,並設定所需路由。在 Vercel 上,你可以將代理程式和網站部署為同一個專案,也可以分開託管。

使用者端程式庫讓你能以一致的方式,在不同框架中處理工具呼叫、核准要求和問題。運用這些工作階段資料打造自訂 UI:將回覆串流到代理程式聊天介面、在頁面中嵌入代理程式,或在自己的元件中顯示代理程式呼叫的工具。

使用 eve add channel/web,搭配 AI Elements 元件建置聊天應用程式;也可以將 eve 的 React、Vue 或 Svelte 繫結加入現有的 UI。

建置多租戶代理程式

部署一個客服代理程式,就能使用各客戶自己的憑證連線到其工單系統,並套用該客戶的核準規則。

你的應用程式會驗證使用者身分,並識別其所屬的租戶。接著,你可以為該租戶和使用者設定記憶、連線憑證和核准政策。

在主要代理程式迴圈的每次模型呼叫前,動態定義會從工作階段和外部資料載入代理程式的能力。1.0 版涵蓋模型、連線和子代理程式,以及工具、技能和指示。

讓代理程式跨工作階段保留記憶

我們新增原生記憶功能,讓代理程式能將脈絡從一個工作階段帶到下一個。你可以選擇記憶的範圍,並使用內建的檔案記憶、記憶提供者,或自行建置的記憶。

內建的 fileMemory 會將資料儲存在 eve dev 的記憶體中,以及你在 Vercel 上設定的私人 Vercel Blob 儲存空間。

其他提供者包括 claude-mem、Hindsight、Kybernesis Arcana、Memanto、memco、Supermemory 和 Upstash AgentKit。

使用 OpenTelemetry 追蹤代理程式

我們以 OpenTelemetry 重建 eve 的追蹤功能,讓你能在現有的追蹤工具中檢視代理程式的工作情況。eve dev 預設會在本機記錄追蹤資料。如果你自行託管 eve,可以將資料匯出到 OpenTelemetry 後端,也可以匯出到自行執行的後端。

追蹤整合包括 Raindrop,更多選項請參閱整合目錄。使用 eve add instrumentation/<name> 新增整合,或透過檢測 API自行建置整合。

追蹤資料現在會顯示代理程式等待人員回應的時機,包括工具核准、問題、預算提示和登入。資料也會記錄模型選擇和核準決策,以及模型用量和費用,並追蹤呼叫至 MCP 伺服器和遠端代理程式的情況。

你可以選擇 eve 收集哪些追蹤資料。排除在收集範圍之外的內容不會出現在任何目的地。你可以篩除追蹤區段,或針對各個目的地遮蔽輸入和輸出。正式環境中的私人對話預設只會傳送中繼資料,不包含提示詞或工具結果。OpenTelemetry 指南說明瞭這些控制項。

在 Vercel 上,Agent Runs會使用相同的追蹤資料,在儀錶板中呈現工作階段、模型呼叫、工具執行、子代理程式活動和核準決策。eve deploy 建立新的 Vercel 專案時,會自動設定追蹤取樣。請參閱Agent Runs 指南,瞭解設定方式。

降低代理程式回合延遲

9 月初,我們在 Vercel Workflows 上執行的代管壓力測試,每回閤中位數耗時 3.036 秒。到了 1.0,同樣執行 100 回合只需 414 毫秒。這項測試會逐一傳送訊息,每回合都收到一次立即回覆的模擬模型回應,且不呼叫工具。我們從傳送訊息開始計時,直到該回合結束,藉此測量 eve 和 Workflow 的額外耗時,不包含模型產生回應所需的時間。

代管壓力測試

每回合延遲中位數

第 95 百分位數

9 月 1 日,Beta 基準

3.036 秒

3.692 秒

11 月 15 日,1.0.0

414 毫秒

633 毫秒

我們與 Workflow 團隊合作制定了規格 9,讓每次執行都由單一協調器負責,因此背景步驟不再重播整個工作流程。團隊也將事件和串流寫入改用 WebSockets,並減少重複讀取歷程記錄。eve 代理程式透過 Workflow SDK 取得這些改進。

eve 也會快取用來將訊息路由至各工作階段的必要資訊,並能在閒置工作階段的回合之間,將其移至較新的部署版本。網頁 UI 可以在收到第一則訊息前預熱工作階段,讓第一則回覆更快開始。

降低長時間代理程式工作階段的工作流程成本

以 50 回合的 Evo Docs 工作階段為例,Vercel Workflows 的預估成本從 5.4 美分降至 1.3 美分,約降低 76%。此估算假設每回合約有兩個模型步驟,並保留資料 30 天。eve 現在採用 Workflow SDK 5.5,只儲存回合之間有所變動的對話資料。我們也減少了工作流程步驟、檢查點和沙箱設定中的重複作業:

  • 工作流程步驟只儲存變更,並參照已儲存的資料,不再於每個步驟中反覆複製逐漸增長的對話內容。不需要歷程記錄的步驟也不會再收到這些資料。

  • 檢查點會儲存工具傳回之影像檔案的參照,因此不必每次都複製影像位元組。

  • 使用預先準備的快照建立的沙箱可略過重複設定。停止沙箱後,可保留其中的檔案供日後重用。工作階段結束時才會開始清理。

這些儲存方式的改進已納入開放原始碼的 Workflow SDK,因此在其他 Workflow 後端自行代管代理程式的團隊,也能減少重複儲存工作階段資料。以上成本估算採用 Vercel Workflows 定價。

在 Vercel 上,工作流程步驟會在 Fluid compute 上執行。當輸入內容超過酬載大小上限時,就需要額外寫入儲存空間,因此減少工作階段資料有助於在工作階段變長時維持每回合耗時穩定。影像和檔案仍可能需要這類寫入。

至於模型呼叫,工具和技能清單可以先不放進初始提示詞,等到需要時再加入。連線工具透過 eve__search 和 eve__tool 執行,因此每次搜尋不再需要展開模型的工具清單。我們也調整了 eve 標記提示詞中可供服務供應商快取的部分,讓更多內容能在不同呼叫之間重複使用。

在先前的一次 eve 遷移期間,Evisions 的一位工程師回報:

透過擴充功能分享代理程式功能

自預覽版推出以來,我們新增了擴充功能,讓團隊能分享工具、技能、指示、連線、頻道、排程、掛鉤和子代理程式,不必在不同代理程式之間複製檔案。你可以使用擴充功能目錄中的專案,或透過 npx eve@latest extension init <name> 建立自己的擴充功能。

例如,agent-browser 可加入瀏覽器自動化功能,Mux Video 可加入影片素材和片段處理工具,而 Link 則可加入錢包和購買工具。

eve 會從原始碼建置工作區擴充功能,並在開發期間重新載入變更。你可以在一個套件中更新共用功能,並在開發時於各個代理程式中測試變更。

使用 eve 的共用工具建置程式碼代理程式

1.0 版 程式碼擴充功能以 eve 預設的檔案工具為基礎,加入遵循儲存庫 AGENTS.md 的程式碼指令與技能。它包含在 eve 套件中,因此不必額外安裝。將儲存庫提供給沙箱中的代理程式後,它就能檢查程式碼、編輯檔案,並執行專案的檢查。它與其他代理程式使用相同的執行架構和擴充功能系統,因此你可以替換或停用工具、覆寫技能,並加入自己的指令。

檢視基準測試結果,比較使用相同任務與模型的其他程式碼執行架構。

將程式碼擴充功能加入你的代理程式:

搭配使用的 eve/extensions/git 擴充功能提供 GitHub 和提取要求工作流程,並使用你設定的憑證與授權。在 Vercel 上,選用的遠端自我修改擴充功能可讓代理程式在草稿提取要求中提議修改自己的原始碼。你可以檢查並合併變更,再進行部署。

使用 eve 採用的相同公開 API 進行建置

eve 的子代理程式、休眠和提問工具,是使用與你可透過 defineWorkflowTool 採用的相同工作流程系統建置而成。你的工具可以傳回結果、啟動背景工作,或持續接收訊息,成為可續行的工作。它們可以等待人員、Webhook 或計時器,而不必持續佔用運算資源;即使重新啟動,工作仍會繼續。你不必另外使用背景工作系統來協調這些工作。

定義好 reviewer 子代理程式後,這個工具會立即傳回收據。task 本文會等待審查者的結果,並在稍後以訊息形式傳送給模型:

升級至 eve 1.0

如果你已經有 eve 代理程式,1.0 升級指南會說明擴充功能建置、代理程式 API、工作階段事件、使用者端和已儲存記錄的變更。部署升級前請先參閱指南。

eve 遵循語意化版本規範,因此穩定 API 的重大變更只會在主要版本中推出。實驗性與內部 API(包括實驗性欄位)則可能在主要版本之間變更。

若要透過程式碼代理程式進行升級,請複製以下提示:

建立你的第一個 eve 代理程式

你可以從終端機開始在本機建置、使用瀏覽器建置工具建立並部署代理程式,或選擇符合使用情境的範本。

從終端機開始

使用 Node.js 24 或更新版本,透過 CLI 建立代理程式:

在互動式終端機中,這會安裝相依套件並開啟 eve 終端機介面。如果你選取的團隊可使用 AI Gateway,就能直接開始對話,不必建立 Vercel 專案或複製 API 金鑰。eve 可以在本機使用你現有的 Vercel CLI 憑證,透過 AI Gateway 呼叫模型。使用 /login 登入其他連線。

在 eve dev 中,你可以要求代理程式新增工具、修改指令或撰寫技能。使用自我修改功能時,它會編輯自己的原始碼,並重新載入變更,供下一輪使用。

從瀏覽器開始

在 Vercel 控制台中,代理程式建置工具會建立代理程式的初始架構、建立 Git 儲存庫並部署。前往「新增」→「代理程式」,選擇模型,並在過程中加入網頁聊天或 Slack。

從範本開始

選擇符合使用情境的 eve 範本:

使用情境

範本

程式碼開發

程式設計代理 · 軟體工廠 · GitHub 維護者 · 事件應變

知識與資料

公司知識庫 · 資料分析師 · 透過 Vercel Drives 共用檔案

應用程式與介面

Next.js 聊天 · TanStack Start 聊天 · 語音代理 · 搭配 Python 的代理

訊息

Slack · Discord · 個人代理 · BELL Stack

記憶

記憶代理 · Mem0

內容與行銷

Contentful · Sanity 副駕 · 內容代理 · 行銷團隊

在 eve 檔案中深入瞭解。

閱讀更多

來源: Vercel Blog (vercel.com)
開啟原文

讀者討論

理性交流 · 即時討論