讓智慧自由需要什麼——Lovable 技術長 Fabian Hedin
讓智慧自由需要什麼——Lovable 技術長 Fabian Hedin
Lovable 的 Fabian Hedin 說明公司如何以無狀態、可分支、可建立檢查點的基礎架構重建代理執行環境——寫時複製(copy-on-write)記憶體、以 Rust 重寫 Vite 讓預覽從 40 秒縮短到 3 秒——以撐住每天 700 次部署。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Podcast 專家音訊節目
收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情
Lovable 共同創辦人暨技術長 Fabian Hedin 表示,公司在 2023 年差點倒閉,原因是他們當時為一個還不存在的智慧打造多代理(multi-agent)框架;代理要等到底層模型跟上之後才真正可行。整場演講大部分在技術性拆解讓 Lovable 代理能在生產環境連續執行十小時以上的三套系統:一套無狀態、借鏡 Git 的代理執行環境,一臺約 230 毫秒即可開機、具備檢查點(checkpoint)機制的電腦,以及內外兩層驗證迴圈。標題所說的「讓智慧自由」只是包裝,實質內容是架構與基礎設施。
Hedin 是以「押錯注又爬回來」的過來人身分發言。Lovable 的產品是聊天加預覽介面,與 2023 年的前身 GPT Engineer 形狀相同:使用者在左側描述意圖,右側看到建置完成的成果。讀者應該帶走的是具體的設計決策(僅追加的軌跡、提示渲染與歷史分離、寫時複製記憶體、以 Rust 重寫 Vite),以及 Hedin 引用的營運數字:每天 700 次部署、每分鐘超過十億個 Token、預覽啟動時間從 40 秒縮短到 3 秒。
2023 年的多代理賭注差點拖垮公司
Hedin 開場先自白,為後續內容定調:Lovable 在 2023 年打造了一套精密的多代理框架,理論是代理代表未來,結果卻讓產品變得更糟。當時的架構是由一個與使用者對話的主代理,衍生出各領域的專門代理——負責第一代應用程式建置的實作代理,加上前端與後端代理——彼此交換訊息。Hedin 說,學術論文支援這種做法,但實際上「完全行不通」。公司在改回原架構之前,資金幾乎燒光。
「我們差點把公司做垮,因為 2023 年時我們認為,嘿,這些代理就是未來,那就現在為它們打造吧。我認為『它們是未來』這件事後來證明是對的,但 2023 年我們在『現在』這件事上顯然判斷錯了。」
診斷結果是時機問題,不是方向問題。Hedin 說,在 GPT-4 時代,複雜的代理系統「根本沒有那樣的智慧」。2024 年底的替代方案刻意做得簡單:用較小的 LLM 負責知識檢索,由一個主 LLM 在同一則訊息裡同時回覆使用者並撰寫程式碼。這個版本反應快、穩定,使用者也願意留在迭代迴圈裡。Hedin 的定調是代理現在真的可行了——「我們回來了」——而 Lovable 在生產環境以每分鐘超過十億個 Token 的規模執行它們。
他得到的教訓是:架構要配合模型能力,而不是超前於模型能力。同一個介面橫跨兩個時代都存活下來,改變的只有底下的機制。
執行環境把每個代理視為一個收件匣加一份僅追加日誌
Lovable 的代理執行環境圍繞三種可能的輸入來源設計:人類下提示、其他代理,或系統依排程喚醒代理。每個代理都有獨立的收件匣,任何來源的訊息都投遞到這裡。當代理走到可以接收輸入的時點——在一次請求、一次工具呼叫與一個結果之後——它會把收件匣內容複製進自己的軌跡(trajectory),也就是任務歷史。
軌跡以 Git 為範本設計:一份僅追加的日誌,每個事件指向一個父事件。兩個事件指向同一個父事件就形成分支,讓 Lovable 能在歷史上的任何時點啟動平行代理,而不必複製共享歷史。Hedin 指出一個限制——與 Git 不同,代理目錄無法合併,因為合併的語意並不清楚——但分支出去的代理之間可以互相溝通。
第二個設計選擇是把提示與歷史分開。軌跡記錄一切:每次工具呼叫、成功或失敗,以及其他未必與提示相關的平臺事件。餵給 LLM 的提示則是從這份日誌按需渲染出來的。Hedin 的理由是壓縮:長歷史需要摘要,而正確的摘要時點會隨模型與上下文長度而異。把提示渲染獨立出來,讓 Lovable 能針對任何模型或任務進行最佳化。
Lovable 介面裡有一個除錯工具展示了這件事的效益——拖動滑桿就能重播一段 156 個事件的歷史,介面會渲染出任何時點的狀態。
flowchart TD
H["人類提示"] --> IN["代理收件匣"]
A["其他代理"] --> IN
S["排程系統喚醒"] --> IN
IN --> T["軌跡 — 僅追加、以父事件串接的日誌"]
T --> F["分支:平行代理共享歷史"]
T --> R["提示渲染器 — 依模型壓縮"]
R --> L["LLM 呼叫"]
L --> T
無狀態行程讓每天 700 次部署能落在執行中的代理底下
執行代理的行程幾乎完全無狀態:在每個回合與每次工具呼叫之間,它會把狀態持久化到任務歷史中。行程可以來來去去,任務照樣繼續。Hedin 給出營運上的理由——Lovable 每天部署 700 次,大約每兩分鐘一次。一個為客戶連續工作十小時的代理不能被部署打斷,但公司也不能跳過一次修補 Linux 核心安全漏洞這類問題的部署。
因為歷史與行程分離,同一個代理執行同一個任務,可以由不同行程跨部署接力承載,持續十小時以上。Hedin 也提到,Lovable 移除了先前對代理執行時間的 30 分鐘上限,那個上限存在的原因是當時認為代理無法長時間穩定執行。
為整臺電腦做檢查點,讓沙箱既便宜又可分支
第二根支柱是代理工作所在的電腦——它要跑開發伺服器並驗證自己的產出。在試過多家沙箱供應商之後,Lovable 自己打造了整臺機器的檢查點機制:磁碟、記憶體與執行中的行程全都涵蓋。
| 能力 | 機制 | Hedin 所述的結果 |
|---|---|---|
| 新專案啟動 | 內含作業系統、系統服務、常用工具與就緒開發伺服器的「黃金檢查點」 | 約 230 毫秒完成複製 |
| 閒置後恢復 | 每個代理回合結束時儲存檢查點 | 不到一秒即可啟動;傳輸中的請求不會被丟棄 |
| 平行環境(「草稿」) | 分支整臺電腦 | 可支撐數百個分支 |
| 分支的記憶體成本 | RAM 採寫時複製 | 在頁面被寫入之前,分支「基本上免費」 |
| 冷啟動延遲 | 串流載入記憶體,在記憶體全部到位前先啟動作業系統 | 縮短啟動時間 |
寫時複製這個細節很重要,因為每個沙箱需要數百 MB 記憶體,若從冷物件儲存一路串流到磁碟再載入 VM 記憶體,原本要花上好幾秒。串流載入讓作業系統與早期行程在記憶體全部到位前就能先啟動。
以 Rust 重寫 Vite,預覽啟動從 40 秒縮短到 3 秒
Lovable 分叉了多數 JavaScript 元框架使用的開發伺服器 Vite,並以 Rust 重寫。Hedin 舉出三項成果:程式碼啟動速度加倍、預覽時間從 40 秒降到 3 秒、記憶體佔用降低 6.5 倍。關鍵改變是移除 Node.js 依賴,讓開發伺服器成為單一 Rust 二進位檔。
掌控應用程式執行環境,也等於掌控它如何寫入記憶體,這與寫時複製的分支機制相輔相成。Hedin 表示的目標是同時執行大量代理,讓它們針對某個 bug 或效能問題探索不同的解法。
驗證分兩層:每個回合的內層迴圈,每次交棒的外層迴圈
Hedin 把回饋分成兩個迴圈。內層迴圈在代理回合中執行:建置是否成功、有沒有 lint 或型別錯誤、預覽中有沒有執行期錯誤,以及電腦內建的無頭瀏覽器,讓代理用來探索自己正在打造的應用程式。外層迴圈在回合之間、也就是代理交還給使用者的時候執行,取材自生產環境訊號:訪客的行為、使用者在網路上的評價、針對文案自動進行的 A/B 測試以檢驗轉換率。
外層迴圈連結到 Lovable 的商業能力。由於平臺本身處理金流、電子郵件、SEO、Google 與 Meta 廣告以及分析,它能追蹤交易與轉換並回饋給代理。Hedin 的主張是,代理因此不只最佳化程式碼,還能最佳化商業策略。
平臺賣的是成果而非程式碼,代理深入每一項能力
Hedin 明確表示,Lovable 的產出不是程式碼,而是「一個產品或一門生意」。平臺分三層:編碼代理(可瀏覽網頁進行驗證、連線 GitHub、程式碼使用者可自由帶走);雲端基礎元件(資料庫、身分驗證、儲存、後端運算、安全掃描、備份、日誌,全部可供代理檢視);以及商業能力(金流、電子郵件、SEO、廣告、分析)。代理貫穿這三層,無所不在。
他承認業界仍在爭論使用者是否必須在意程式碼,也坦承自己從小寫程式,對程式碼有情感——但他最終認為重要的是成果。策略解讀是:Lovable 正在垂直整合代理所需的一整套堆疊,讓使用者永遠不必自行拼裝各項服務,這提高了轉換成本,也讓代理成為商業關係的核心,而非程式碼儲存庫。
結尾的綜合結論是:Lovable 的翻身建立在一次逆轉之上——先做簡單的、等模型跟上,等智慧到位後再重建複雜系統——而目前的架構正是圍繞這個賭注持續成立而設計。尚未化解的張力正是 Hedin 自己點出的那一點:2023 年的框架失敗,是因為模型能力落後於設計;而執行環境、檢查點或驗證機制裡,沒有任何一項能保證下一次能力躍遷不會讓今天的編排方式過時。值得追蹤的數字是他主動提供的那些——每天 700 次部署、每分鐘超過十億個 Token、230 毫秒的檢查點還原、預覽從 40 秒到 3 秒——因為它們立下了競爭者將被拿來衡量的標竿。