KeyFrame內部研究專用

Ralph-loop 2.0? The real autonomous coder is coming...

AI Jason·5月9日週六·12 min中文

三句話摘要

Codex/Hermes 代理的「目標功能」如何實現長時間自主工作,克服模型懶惰問題。 目標功能通過 LLM 智慧判斷而非死板循環,結合結構化提示詞和長期任務的「Mission」概念,讓 AI 代理能勝任跨越數小時甚至數月的複雜自主工作。 代理的「懶惰問題」:模型容易提前宣告任務完成。傳統粗略循環(rough loop)用簡單 for 迴圈反覆觸發代理,但無法有效判斷真正完成。目標功能改用 LLM 調用,讓系統聰慧地判斷任務是否真正達成,只有通過審計驗證才標記為完成。

重點整理

重點
  • 1

    代理的「懶惰問題」:模型容易提前宣告任務完成。傳統粗略循環(rough loop)用簡單 for 迴圈反覆觸發代理,但無法有效判斷真正完成。目標功能改用 LLM 調用,讓系統聰慧地判斷任務是否真正達成,只有通過審計驗證才標記為完成。

  • 2

    提示詞設計的關鍵:好的目標提示應定義目標內容、禁止改動部分、驗證進度方法,最重要的是明確「完成」定義。模糊條件(如「一直運行直到所有問題解決」)導致代理過早退出或陷入循環,必須給出可量化的數字作為停止條件。

  • 3

    前期溝通不可省略:代理開始前應瞭解專案背景、用戶關切、已嘗試的方法、應遵循的設計模式。Vincent(Open Claw 維護者)經 13 輪 3 天實驗證明,提前建立共識的結果遠優於直接丟提示詞。

  • 4

    長期任務的「Mission」概念:對於數週數月的目標(SEO、廣告優化、粉絲增長),單次長運行不奏效。改用 mission.md 記錄目標,代理執行一步→輸出成果→自動排定下次運行,每次新會話接收前次摘要持續迭代。

實用技巧與重點

乾貨
  • 啟用方式:`codex features list` 查看、`codex features enable goal` 啟用
  • 使用命令:`/goal 目標` 啟動、`/goal` 查狀態、`/goal pause` 暫停、`/goal clear` 清除、`/help` 分支對話
  • 工作原理:代理執行 → LLM 判斷是否完成 → 若否則更新提示 → 循環至完成
  • 量化提示範例:「發現 20 個獨立新問題,每個都生成倉庫、提出修復、推送分支、記錄成果」
  • 新專案提示範例:「構建 X 參考實現,列出反模式、日誌、應遵循設計模式、用戶期望」
  • 輔助工具:Go Body(`npx go-body`)自動生成 goal.md 和 state.yaml
  • Hermes 對應功能:持久幽靈功能,使用特殊 LLM 判斷結果
  • 成功案例:9 小時連續遷移 JS→TS、6 小時自建 iOS 應用、Twitter 策略從平庸推文→創始人聲音→高互動

結論

結論

目標功能通過 LLM 智慧判斷而非死板循環,結合結構化提示詞和長期任務的「Mission」概念,讓 AI 代理能勝任跨越數小時甚至數月的複雜自主工作。

完整解析

詳細

AI 編碼代理在自主工作能力上已有顯著進步,但隨著任務複雜度增加,一個普遍問題浮現:模型傾向於「過早宣告勝利」。例如,請求代理修復倉庫中所有失敗測試時,代理往往在 10 到 15 分鐘後就聲稱完成,但實際上只是表面修復。開發者需要不斷提醒「還有 XYZ 任務未完成」才能繼續推進。這個問題促使工程師社群開發出「粗略循環」(rough loop)概念——在 for 迴圈中反覆觸發編碼代理,每次完成後將輸出寫入檔案系統再觸發下一輪。

Codex 和 Hermes 代理的「目標功能」升級了這套機制。它不採用簡單的程序迴圈,而是在每個迴合後調用大型語言模型,讓 LLM 判斷任務是否真正完成。若未完成,系統會自動生成更新的提示,列出目標文件並明確指示代理採取下一步具體行動;只有當 LLM 審計認定目標已實現,系統才標記為完成。這種改進使代理能處理不僅是明確的任務列表,還能應對模糊目標——例如「將 Docker 鏡像大小減少 60%」這類沒有預定義解決方案的挑戰,代理能自動探索多種途徑並逐步優化。

然而,要充分利用這個功能,提示詞的品質至關重要。優質的目標提示應該定義要實現的目標、禁止改動的部分、如何驗證進度,以及最關鍵的「完成」定義。Vincent(開源項目 Open Claw 的維護者)經過 13 輪連續 3 天的實驗得出一個重要洞察:代理開始工作前,應先花時間進行深度溝通——瞭解專案背景、用戶關切重點、已嘗試且排除的方法、應遵循的設計模式。若直接丟出提示詞,結果往往是無謂的循環。另一個常見錯誤是設定模糊的停止條件(如「一直運行直到所有問題解決」),這會讓模型要麼提前退出,要麼陷入無意義的重複。必須提供可量化的數字——比如「發現 20 個獨立新問題」就比「解決所有問題」更有效。Go Body 這類開源工具能自動將模糊目標轉換為結構化的 goal.md 文件和 state.yaml 任務清單,進而讓代理能更有序地推進工作。

對於需要持續數週或數月的長期目標(如 SEO 優化、廣告回報率優化或 Twitter 粉絲增長),單次長時間運行的局限性變得明顯。團隊引入了「Mission」概念:將長期目標記錄在 mission.md 文件中,明確定義要優化的指標,代理執行一步操作、輸出結果作為成果物,然後自動排定下次運行(可能是幾小時、幾天甚至幾週後)。每次新會話啟動時,都會接收 mission.md 與前次步驟摘要,形成持續迭代的循環。實踐中,結合人機交互也相當有用——代理若意識到某項行動過於激進或任務定義不清,可向人類發送訊息並調整狀態。在 Twitter 粉絲增長實驗中,代理觀察初期推文表現平庸,提出假設改用「創始人聲音」策略,結果互動率明顯提升;基於這個學習,代理繼續迭代,效果持續改善。這套方法同樣適用於廣告優化和產品增長。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing
編輯精選
83 min
AI 技術英文PODCAST8月26日

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing

Latent Space

  • 加速傳統物理模擬的典範轉移:氣象科學家原本認為 AI 無法匹敵數十年的物理建模工作,但傅里葉神經算子不僅達到同等精度,還快了一萬多倍。原本需要超級計算機的計算現在用消費級 GPU 就能完成,這改變了整個領域的思維方式。
  • 傅里葉域的非局部現象捕捉:傅里葉域能有效表示非局部現象(如大氣河流跨越千里的影響),且計算複雜度為準線性,遠優於完全連接的全局模型。這特別適合流體動力學、量子化學等自然現象中普遍存在的非局部相互作用。
  • 多解析度連續函數表示:神經算子將輸入輸出視為連續函數而非固定維度向量,可在推論時以任意解析度查詢,並能在更高解析度上疊加物理約束或額外數據,克服了固定解析度神經網路的限制。
Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Why the Next AI Breakthrough May Come from Physics with Max Welling - #774
55 min
AI 技術英文PODCAST8月25日

Why the Next AI Breakthrough May Come from Physics with Max Welling - #774

TWIML AI

  • 多層篩選的材料設計流程:先搜尋文獻資料庫找現有材料,若無合適的就用生成模型產生數十萬個候選分子,用機器學習力場進行分子動力學模擬篩選,再進行實驗驗證。這套流程相比傳統量子力學計算能加速效率數個數量級。
  • 生成AI與熱力學的數學等價性:資訊論是兩個領域的共同基礎,生成模型的擴散過程與非平衡統計力學描述資訊損失的過程在數學上完全對應,許多開發出來的方法工具在兩領域都有精確對應的形式。
  • 基礎模型的遷移學習策略:先在廣泛材料資料集上訓練基礎力場表示,再針對特定材料類別進行蒸餾微調,既能保持計算效率也能獲得專一性。