KeyFrame內部研究專用

What it takes to set intelligence free — Fabian Hedin, Lovable

AI Engineer英文
觀看原始影片

三句話摘要

Lovable 平台如何設計分布式代理運行時架構,在生產環境中可靠地運行複雜、長時間的 AI 代理系統。 Lovable 通過分離運行時與歷史、檢查點計算機與持續驗證反饋,解決了生產環境中複雜代理系統的長時間穩定運行問題,使代理驅動軟體開發從實驗階段邁入可商用規模。 歷史教訓驅動的設計:Lovable 曾在 2023 年因過早採用複雜代理系統(多代理相互協調)而幾乎失敗。當時 LLM 能力不足以支撐,系統反而降低產品品質。在 2024 年底重新投入代理研發前,公司已驗證簡化架構的價值。現在系統日部署 700 次(平均每 2 分鐘一次)且不中斷代理工作。

重點整理

  1. 歷史教訓驅動的設計:Lovable 曾在 2023 年因過早採用複雜代理系統(多代理相互協調)而幾乎失敗。當時 LLM 能力不足以支撐,系統反而降低產品品質。在 2024 年底重新投入代理研發前,公司已驗證簡化架構的價值。現在系統日部署 700 次(平均每 2 分鐘一次)且不中斷代理工作。

  2. 不可變事件日誌運行時:代理軌跡(trajectory)採用類似 Git 的設計,每個事件指向上一事件。這支援無代價分叉(平行代理不複製共享歷史)與運行進程無狀態化——進程與歷史分離,新部署可無縫接管舊進程繼續工作。

  3. 檢查點計算機快速複製:黃金快照(含 OS、系統服務、開發伺服器)230 毫秒內完成複製。寫時複製與記憶體流式化技術使虛擬環境分叉成本近乎零,預覽啟動時間從 40 秒降至 3 秒(Rust 開發伺服器減少 6.5 倍記憶體)。

  4. 雙層驗證反饋:內迴圈檢查編譯、型別、執行時錯誤與前端行為;外迴圈蒐集生產使用者數據、A/B 測試與交易指標,使代理最佳化商業表現而非單純程式碼邏輯。

實用技巧與重點

  • 系統規模與效能
  • 系統容量:每分鐘數十億個 token
  • 部署頻率:日 700 次(每 2 分鐘一次)
  • 代理工作上限:無限制(支援 10+ 小時)
  • 檢查點複製時間:230 毫秒
  • 預覽啟動時間:40 秒 → 3 秒(Rust 重寫後)
  • 記憶體縮減:6.5 倍(Node.js → Rust 開發伺服器)
  • 核心架構組件
  • 代理收件匣(inbox):接收人類、其他代理、系統訊息
  • 軌跡(trajectory):不可變事件日誌,支援分叉
  • 黃金檢查點:預製的 OS、系統服務、開發伺服器快照
  • 寫時複製(Copy-on-Write):虛擬環境分叉無記憶體開銷
  • 記憶體流式化:OS 記憶體優先載入,程序漸進式啟動
  • 驗證反饋機制
  • 內迴圈:編譯檢查、Lint 與型別檢查、執行時錯誤、無頭瀏覽器驗證
  • 外迴圈:訪客行為追蹤、使用者評論、自動 A/B 測試、交易追蹤

結論

Lovable 通過分離運行時與歷史、檢查點計算機與持續驗證反饋,解決了生產環境中複雜代理系統的長時間穩定運行問題,使代理驅動軟體開發從實驗階段邁入可商用規模。

完整解析

Lovable 是一個代理驅動軟體開發平台,使用者通過聊天界面描述開發意圖,代理自動編寫、驗證並部署程式碼。演講者 Fabian 回顧了公司的技術演進,特別強調了早期決策失誤與後來的轉變如何塑造了當前架構。

在 2023 年,Lovable 嘗試構建精心設計的多代理系統——由主代理協調專門的實作代理、前端代理與後端代理,彼此傳遞訊息以協調工作。然而這套系統在實踐中完全失敗,不僅沒有提升能力,反而使產品變得更差。Fabian 坦率地承認這幾乎導致公司倒閉。關鍵問題是當時 LLM 的智能水平尚無法可靠地支撐如此複雜的協調邏輯。直到 2024 年底,公司決定回到簡化架構——由單一主 LLM 直接處理知識檢索與程式碼生成,保留使用者即時反饋迴圈。這套簡化方案運行穩定、反應迅速、使用者體驗優異。

隨著 LLM 能力的突飛猛進,複雜代理系統的時機終於成熟。Lovable 重新投入代理研發,現已在生產環境運行超過每分鐘數十億 token 的負荷。系統架構由三層創新組成。

第一層是代理運行時。軌跡設計採用類似 Git 的不可變事件日誌,每個事件指向其前驅事件。這帶來兩項能力:首先,任意時間點可分叉並行代理而無需複製共享歷史,使代理能探索多個解決方案;其次,運行進程與任務歷史完全分離,使進程本質上無狀態。這讓 Lovable 能在每分鐘部署 700 次時不中斷長達 10 小時以上的代理工作——新部署的進程可無縫接管舊進程,確保系統安全性與最新功能的同步。

第二層是計算機環境。系統採用「檢查點計算機」技術,預先建立包含 OS、系統服務、開發伺服器的黃金快照。新專案啟動時,整個快照在 230 毫秒內被複製。每當代理完成一個轉折(turn),系統保存計算機狀態的新檢查點,使系統可快速恢復或分叉。為支撐大規模並行代理(例如「草稿」功能讓使用者同時探索多個設計方案),Lovable 實施了激進的最佳化:寫時複製使虛擬環境分叉成本近乎零,記憶體流式化允許虛擬機在全部記憶體準備前啟動。此外,他們將 Vite 開發伺服器從 Node.js 重寫為 Rust,使預覽啟動時間從 40 秒下降至 3 秒,記憶體足跡也降低了 6.5 倍。

第三層是驗證反饋。反饋機制分為內迴圈與外迴圈。內迴圈在單個代理轉折期間執行,檢查編譯、Lint 與型別錯誤、執行時崩潰,並用無頭瀏覽器驗證前端行為。外迴圈在轉折之間執行,蒐集生產使用者的行為數據、線上評論、自動 A/B 測試結果與交易數據。由於 Lovable 整合支付、電子郵件、SEO 與分析等業務功能,代理可根據這些外層指標最佳化不僅是程式碼邏輯,更是整個產品的商業表現——轉換率、收入與使用者滿意度。

4 min
AI 技術中文11月21日

Make.com Automation for Beginners: Your First Automation in 10 Minutes

AI Workflow Lab看原片 ↗
  • Make 的核心是「情景」(Scenario) 概念,由多個模組組成,每個模組執行一個應用程式的單一工作。當第一個應用程式中發生事件時,Make 自動將資料傳遞到下一個應用程式,就像一個從不睡眠也不遺忘的數位助手。
  • 映射 (Mapping) 是自動化的核心。使用者需要明確告訴 Make 每筆資料應該放在哪裡,確保表單欄位正確對應到試算表的列,以及郵件內容能夠動態插入客戶資訊。
編輯精選
企業管理英文11月21日

What Anthropic's $900 Billion Bet Means for You

Nate Herk看原片 ↗
  • 訂閱用戶成為上市公司的收益基礎:4000 萬名小客戶(含 Claude Pro、Max、Ultra 或 API 用戶)合計貢獻 25% 的收入,形成 Wall Street 下注的對象。用戶每次訂閱續約都直接影響 Anthropic 股價,
  • 循環融資制造生態系統性風險:Amazon、Google、Broadcom 與 Nvidia 等公司既是投資者、又是運算服務提供商,同時採購 Anthropic 服務,形成相互依賴的閉環。若任一環節需求放緩,所有參與者將同時受創,系統風險無法
編輯精選
AI 技術英文11月20日

6 Lessons I Learned From Installing AI in a $10M Business

Liam Ottley看原片 ↗
  • AI 負責前 80% 工作,人的品味決定最後 20% — 系統一開始生成的提案很基礎,直到 Isaac 的設計師介入決定風格、選擇產品後,品質才大幅提升。需要將品味優秀的員工的規則和案例提供給 AI,讓初版更接近他們的標準。
  • 聚焦單一瓶頸,不要全面改造 — 分析發現提案環節是最大痛點:每月 15-20 張圖、每張 10 小時、成本 $500-1000、9 成無結果。選擇同時改善速度、成本、品質的用例,才是 AI 真正發揮價值的地方。