RLM: Recursive Language Models for Large Codebases - Shashi, Superagentic AI

大型代碼庫對傳統代碼代理構成了重大挑戰。隨著倉庫規模增長，將整個上下文塞入模型會導致性能迅速下降，尤其是在處理複雜單倉庫時更為明顯。現有解決方案包括基於 grep 等工具的文件系統搜尋、語義搜尋來策展上下文、壓縮長上下文為摘要，以及持久化的記憶層。這些方法各有應用場景，但無法根本解決大型項目中模型上下文的核心矛盾。

RLM（遞迴語言模型）引入了全新的思維方式。其核心創新是將上下文管理外部化到可編程的執行環境中。與其讓模型被動地讀取和理解代碼，RLM 讓模型主動成為一位「程式設計師」——它會編寫 REPL（Python 等）代碼來檢查、切片和計算相關的代碼片段。整個工作流遵循一個遞迴循環：首先模型讀取代碼並寫入 REPL 代碼，獲得邊界觀測結果；如果這些結果不足以回答問題，模型就通過 LLM 查詢向另一個模型系統提問，取回結果後繼續循環，直至獲得最終答案。這個過程完全可以類比為資深軟體工程師接手大型項目的思考方式：不是逐行讀代碼，而是先檢查項目結構、目錄組織、依賴關係和測試框架，做出筆記，遇到疑惑時請教同事或查閱文件，最後綜合所有信息得出結論。

SuperAgentR 團隊開發的 RLM Code 是這一概念的開源參考實現。該庫嚴格遵循 MIT 論文的核心思想，支持本地模型或雲端模型（如 Gemini），並允許接入任意觀測平台。RLM Code 提供了多種介面：CLI 模式用於簡單查詢，代理風格的實驗框架則更靠近實際的代碼代理應用，TUI 終端界面讓用戶可以互動式地探索和實驗。用戶可以輸入提示詞、指定預算上限，系統會返回詳細的執行信息，包括遞迴深度、模型調用次數、令牌消耗等。所有執行過程被完整地記錄為 JSONL 格式的追蹤數據，不僅展示最終答案，還展示了中間的 REPL 代碼執行步驟、LLM 查詢內容、事件發生的時間戳，方便開發者導入到任何觀測或分析平台進行深度檢查。

RLM 概念已被業界廣泛採納。Anthropic 和 Google 的託管代理系統、GitHub Copilot 的 Codex 引擎都在實踐這一模式——在沙箱環境中執行代碼來提取和過濾上下文。更進一步的應用是動態工作流，其中一個代理可以根據任務生成多個子代理，每個子代理擁有獨立的沙箱環境，相互協作完成複雜任務。這些實踐都證明了 RLM 作為一個通用模式的實用性和可擴展性。實際應用中，RLM 特別適合以下場景：在進行根本原因分析時快速定位問題所在、為開發者上線到陌生的大型倉庫、導航複雜的代碼關係。開發者可以根據自己的業務需求設計定製化的執行框架和觀測機制，從而實現高效、可控、完全可觀測的大規模代碼操作。

##