KeyFrame內部研究專用

The Pipeline Is Dead - Iris ten Teije, Sky Valley Ambient Computing

AI Engineer19 min英文
觀看原始影片

三句話摘要

軟體發行正在從「一個版本給所有人」轉變為「每個用戶自適應版本」,因為代碼生成成本趨近於零。 軟體從凍結發行轉向即時自適應,開發和分發的邊界將消失;下一個 20 年的挑戰是如何用隔離和可溯源確保安全,同時給每個用戶最適合的版本。 成本轉移帶來架構轉變。從前製作軟體昂貴且罕見,所以一次編譯、凍結、分發給所有人是必然選擇。如今生成成本趨零,改動可即時在任何地方執行,這消解了「開發和分發分離」的經濟理由,導致軟體不再需要凍結成單一成品。

重點整理

  1. 成本轉移帶來架構轉變。從前製作軟體昂貴且罕見,所以一次編譯、凍結、分發給所有人是必然選擇。如今生成成本趨零,改動可即時在任何地方執行,這消解了「開發和分發分離」的經濟理由,導致軟體不再需要凍結成單一成品。

  2. 用戶一直渴望個性化軟體。企業軟體客製化、個人的編輯器設定、Excel 的用戶自建應用,都證明人們樂於掌控自己的工具。過去不可行只是因為成本太高;現在技術成熟,按用戶個性化軟體變得可行。

  3. 架構透過「主幹+隔離版本」控制風險。不是丟給開發者一百萬個獨立成品去維護,而是發布一個規範主幹,讓每個用戶執行自己的隔離變體。每個版本不變、可檢查、可溯源;壞變體無法汙染主幹或他人版本;任意變體可即時回滾。

  4. 軟體交付的難題轉移到觀測和協調。代碼生成變得簡單(「容易的 80%」),真正的挑戰是:如何追蹤每個用戶運行什麼和為什麼、如何驗證改動是否合意(測試、可欲性測量)、如何推送更新給百萬版本(答案是合併意圖而非代碼)。

實用技巧與重點

  • 核心組件與概念:
  • 主幹 (stem):規範、不變的軟體源
  • 版本 (divergences):用戶特定的改動,隔離且獨立可逆轉
  • 模型調用:可在伺服器、客戶端、用戶會話中發生
  • 案例:CRM 自適應
  • 系統觀察投資者常記錄「創始人介紹人」欄位,自動建立「介紹人路徑」
  • 系統觀察用戶跳過某些欄位,停止展示;改而展示用戶常檢查的欄位
  • 系統學習用戶偏好的交易類型優先排序,而非依系統預設
  • 用戶可主動請求改動,只要在開發者邊界內、符合軟體本意即可
  • 開發者設定的控制邊界:
  • 指定特定表單欄位不可刪除
  • 設定支付、驗證等功能永遠禁止適應
  • 定義允許適應的目標函數與指標(保留率、支持票數、轉化率)
  • 前置挑戰及 Differ 的對應思路:
  • 源的真實性:無單一成品時,軟體 = 主幹 + 所有不變版本;查詢變為圖形而非版本號;每個版本可溯源到生成信號
  • 正確性測試:需測試主幹與所有可能版本組合的 UI 和邏輯
  • 可欲性衡量:改動正確不等於改動好;必須測量對業務指標的實際提升
  • 自主性vs控制:願景是系統可信賴到無需每次請求權限;挑戰是贏得足夠信任讓人類樂意退出迴圈
  • 協調機制:不合併代碼,合併意圖和成果;百萬版本如何接收更新

結論

軟體從凍結發行轉向即時自適應,開發和分發的邊界將消失;下一個 20 年的挑戰是如何用隔離和可溯源確保安全,同時給每個用戶最適合的版本。

完整解析

軟體發行架構正在經歷根本轉變。過去 20 多年,CI/CD 流水線遵循一個核心假設:軟體製作昂貴且罕見,所以需要在中心編譯、凍結、發布單一成品給全部用戶。這個假設來自經濟學,而非技術必然。製作改動曾耗費工程師數小時甚至數天,所以組織會集中決策、嚴格審查、一次發布。凍結的製品帶來可重現性和可回滾性,這些保障依賴單一不變的成品。

但生成式 AI 改變了遊戲規則。製作代碼的成本現在趨近於零,改動不再需要在編譯時一刻決定,而是可在執行時、在伺服器、客戶端或用戶會話發生。這根本改變了軟體的形態:與其發布一個版本給所有人,不如部署一個規範主幹,讓每個用戶執行自己個人化的變體。改動可在用戶上下文中發生,完全符合其需求。

用戶側的需求從未停止。企業軟體有龐大的專業服務產業,客戶願意支付高昂費用以得到客製化。個人開發者手工維護編輯器配置和快捷鍵。Excel 的成功恰恰因為它讓百萬用戶自行製作自己的程式。前特徵開關、分段、A/B 測試都是為了製造軟體差異,但它們被迫進入預先定義的桶子模式。現在,軟體可以真正自適應。

技術上,Differ 提出的模式是:不是百萬個獨立成品,而是一個主幹加多個隔離版本。每個版本無法汙染主幹或他人版本,任何版本可即時回滾。開發者設定邊界—哪些欄位不可刪、哪些功能禁止適應。系統可觀察用戶行為(點擊、跳過欄位、搜尋模式),自動提出改動;用戶也可主動請求改動。只要請求在開發者邊界內且符合軟體本意,系統可自動實現,無需開發者審批。

這個願景的難點不在代碼生成(那是容易的 80%),而在觀測和協調。如何追蹤每個用戶運行什麼、為何運行、是否有改進?如何驗證一個改動是否合意?如何推送更新到百萬個版本?答案是合併意圖而非代碼:所有版本不需運行相同提交,但應收斂到相同目標。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI