KeyFrame內部研究專用

The Prompt is the Platform - Dominik Tornow, Resonate HQ

AI Engineer17 min英文
觀看原始影片

三句話摘要

AI agents在分布式系統設計中的角色演進——從代碼實現轉向系統設計,通過規範復用和目標特定實現的生成。 讓 agents 在確定性仿真環境中參與系統設計(而非僅代碼實現),結合極簡規範的復用,可高效為不同基礎設施定制生成生產級分布式系統。 規範復用取代實現復用:傳統方式是復用已實現的通用庫和框架,未來轉向復用規範,agents 根據各基礎設施生成定制實現。這樣每套基礎設施都能獲得最優化的實現,同時最小化額外依賴,改變了商業模式——產品不再是實現,而是規範本身。

重點整理

  1. 規範復用取代實現復用:傳統方式是復用已實現的通用庫和框架,未來轉向復用規範,agents 根據各基礎設施生成定制實現。這樣每套基礎設施都能獲得最優化的實現,同時最小化額外依賴,改變了商業模式——產品不再是實現,而是規範本身。

  2. Agents 需向上游移動,從實現者變設計者:最初嘗試讓 agents 從抽象規範直接生成生產級實現會失敗(間隔太大)。透過引入「具體規範」中間層,以及讓 agents 在仿真中進行「可執行設計」,agents 現在能先驗證算法正確性再實現系統,而不是只做盲目代碼生成。

  3. 確定性仿真暴露「禁果」資訊,提供因果推理能力:真實系統隱藏了讀操作是新鮮還是陳舊的事實,但仿真可完整記錄。當 agents 的算法因陳舊讀取出錯時,仿真環保能精確再現場景並說明「為什麼失敗」而不只是「出錯了」,讓 agents 看見因果關係進而修復算法。

  4. 極簡是前提條件,不是起點:花 3 年精簡 Resonate 協議,每遇問題就問「能刪什麼」「哪些抽象可消除」。小而清晰的協議(只含 durable promise、durable task)更容易讓 agents 理解和實現,因為即使簡單的並發分布式協議也有複雜狀態空間。

實用技巧與重點

  • Resonate 實現與支持
  • Resonate server 實現
  • SDK 支持語言:TypeScript、Python、Rust、Go、Java
  • 核心協議對象:durable promise、durable task
  • 基礎設施合作
  • 合作對象:Synadia(NatSIO 幕後公司),NatSIO 是開源消息系統
  • NATS.IO 提供的基礎原語:Queues、key-value store、delayed/scheduled messages
  • 四階段實現流程
  • 抽象規範(Abstract Specification)
  • 仿真實現(Simulation Implementation)
  • 具體規範(Concrete Specification)
  • 生產實現(Concrete Implementation)
  • 仿真環境特性
  • 確定性、可重複、可檢查
  • 能模擬 NATS.IO key-value store 行為(包括版本控制、陳舊讀取)
  • 乐觀並發控制(寫入前檢查版本)
  • 記錄「禁果」:讀取型別(新鮮/陳舊)、隱藏的最新值、觸發的邏輯、寫入失敗原因、破損的不變量
  • 核心概念
  • "The prompt is the platform"(提示詞就是平台)
  • "The specification is the product"(規範就是產品)
  • "Forbidden fruit"(禁果)——仿真環境記錄真實系統隱藏的信息

結論

讓 agents 在確定性仿真環境中參與系統設計(而非僅代碼實現),結合極簡規範的復用,可高效為不同基礎設施定制生成生產級分布式系統。

完整解析

Resonate 創辦人提出一個預言:2026 年,通用編程框架會被定制實現所取代,這些實現由 AI agents 根據規範按需生成。這背後的邏輯是軟件工程的未來不是更多通用庫,而是針對特定基礎設施的最小化定制。復用的重心從「復用現成實現」轉向「復用規範」,agents 會根據不同基礎設施派生多個定制實現。

在這個新現實中,Resonate 的商業策略隨之轉變。公司不再只賣實現,而是賣規範和協議。基於這規範,可與多個基礎設施供應商合作生成針對其技術棧的 server 實現,讓客戶在現有基礎設施上直接獲得持久執行能力,無需額外依賴。

演講核心討論 agents 在系統設計中的角色演進。最初嘗試讓 agents 直接從抽象規範生成 Postgres 上的 Rust 實現,結果失敗了。agents 生成的系統在快樂路徑上能通過基礎測試,但在並發、進程失敗和網絡故障下崩潰。問題在於抽象規範與具體實現的鴻溝太大。解決方案是引入「具體規範」中間層。人類先與 agents 合作定義針對 Postgres 的數據模式、索引、SQL 查詢和事務邊界,有了這個具體規範,agents 才能成功實現生產級系統。

但這種方法的局限是 agents 只參與實現,未參與設計。要讓規範成為可復用產品,agents 需向上游移動。在與 NatSIO 合作時,團隊改變了策略,不問「agents 能否構建生產系統」,而問「agents 需要什麼才能先設計再實現」。答案是確定性仿真環境。agents 被給予模擬的 NatSIO 環境,任務不是構建生產系統,而是構建仿真實現——可執行的設計。目的是在部分故障和偏序狀態下發現正確算法。agents 在可重複、確定性的環境中測試和驗證算法,直到正確為止。只有當算法驗證通過,才要求 agents 寫具體規範和生產實現。流程變成:抽象規範→仿真實現→具體規範→生產實現。

使這成為可能的關鍵是極簡主義和簡潔性。Resonate 花 3 年精簡協議,不斷問「能刪什麼」「哪些抽象可消除」「哪些屬性可移除」。最終協議只圍繞 durable promise 和 durable task 兩個對象。這很重要,因為即使簡單的並發分布式協議也有複雜的狀態和行為空間。

演講最後深入仿真的實現細節。agents 在真實系統上看不到讀操作返回的是最新值還是陳舊值,但仿真可記錄——稱為「禁果」。仿真環境記錄每次 get 操作,如果是新鮮讀取就記錄「新鮮」,如果是陳舊讀取就記錄「陳舊」以及隱藏的最新值。當 agents 的算法因陳舊讀取失敗時,仿真環境能精確再現場景,解釋「你的算法失敗了,因為它基於陳舊世界觀做決策」。這種因果關係可見性讓 agents 有效調試分布式算法。

通過這方法,agents 成功在 NatSIO 上設計並實現了 Resonate。agents 先在仿真中建造概念驗證並通過快速測試驗證,然後推導具體規範,最後生成生產實現。整個過程中人類仍參與,但 agents 是驅動力。這體現了核心哲學:「提示詞就是平台,規範就是產品」。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI