KeyFrame內部研究專用

Morgan Stanley's ALPHALAB: Multi-Agent Research Across Optimization Domains — Brendan Rappazzo

AI Engineer·7月29日週三·20 min英文

三句話摘要

摩根士丹利利用大型語言模型自動化量化研究的Alpha Lab框架 自動化研究能力將成為行業商品,企業的真正競爭優勢來自建立高品質的評估框架與研究環境設計。 Alpha Lab採用三階段工作流:研究階段根據資料路徑與自然語言問題自動建立上下文(耗時3-4小時);評估階段透過多智能體架構(概念檢查+程式檢查)確保評估品質;大規模實驗階段由策略代理提議實驗、工作代理執行實現、持續迴圈改進。

重點整理

重點
  • 1

    Alpha Lab採用三階段工作流:研究階段根據資料路徑與自然語言問題自動建立上下文(耗時3-4小時);評估階段透過多智能體架構(概念檢查+程式檢查)確保評估品質;大規模實驗階段由策略代理提議實驗、工作代理執行實現、持續迴圈改進。

  • 2

    系統完全自主開發而非使用現成框架,所有代碼由Claude生成,支援與供應商無關的適配(OpenAI、Anthropic、開源模型),透過函式式工具調用實現靈活集成。

  • 3

    關鍵工具包括完整Shell訪問權限、Web搜索與Slurm GPU集群管理,使代理能獨立編寫程式、設置環境、訓練模型、分析結果,無需人工進行硬體編排。

  • 4

    2.0版本核心改進是將評估與環境視為強化學習信號與價值來源,透過定量指標與定性評估(觀察思考流程是否符合優秀研究人員工作方式)構建框架,使系統實現自我改進與元優化。

實用技巧與重點

乾貨
  • 項目版本:Alpha Lab 1.0(2025年4月初發布)、2.0開發中
  • 三階段流程:研究→評估構建→大規模實驗
  • 研究階段耗時:3-4小時
  • 主要工具:Shell命令、Web搜索、Slurm GPU管理
  • 評估方法:兩個批評代理(高層次概念檢查+程序化檢查)
  • 實驗管理:Jira看板式界面,策略代理提議實驗,工作代理執行
  • 基準測試:Kaggle英偉達NeMo Tron微調競賽排名前12%
  • 關鍵發現:XGBoost表現優於三種Transformer變體
  • 代碼開源:GitHub完整開源,包含40頁技術報告
  • 企業應用:內部多個模型通過Alpha Lab改進後投入生產
  • 評估架構:公開排行榜+保留驗證集雙軌評估(類似Kaggle)
  • 訓練信號:約10-20個精心設計場景作為強化學習基礎

結論

結論

自動化研究能力將成為行業商品,企業的真正競爭優勢來自建立高品質的評估框架與研究環境設計。

完整解析

詳細

摩根士丹利團隊在過去一年半時間開發Alpha Lab,源於實際困境:部門內有許多量化研究算法在生產環境運行,但受限於人力資源,許多改進空間難以充分利用。直到2025年12月,隨著Claude Opus等模型能力突破和Claude Code框架推出,自動化研究才真正成為可能。該團隊規模約30位AI博士研究人員,採取半學術半應用的運作模式。

Alpha Lab的工作流分三階段。研究階段根據資料路徑和自然語言問題描述自動啟動,系統透過待辦事項清單框架逐步建立上下文,自動學習設置Python環境、加載資料、執行統計測試等工作,通常需耗時3-4小時。第二階段評估構建是2.0版最顯著的改進,採用多智能體框架:開發代理先編寫評估程式碼,提交給兩個批評代理分別檢查概念錯誤和程序化問題,形成類似單元測試與集成測試的雙重檢查機制。第三階段大規模實驗使用Jira看板式界面,策略代理持續提議實驗方案,工作代理負責實現策略、編寫程式碼、提交至GPU集群、分析訓練曲線與評估結果,每次完成後生成事後分析報告回饋給策略代理,形成持續迭代的閉環。

設計上摩根士丹利做出獨特選擇:完全自主開發框架而非使用現成平台,所有代碼由Claude生成。系統支援供應商無關適配,可使用OpenAI、Anthropic或開源模型。關鍵工具包括完整Shell訪問、網路搜索和Slurm GPU管理。1.0版本在學術資料集(CUDA內核、交通時間序列、LM預訓練速度)上驗證,在Kaggle英偉達競賽中排名前12%,由於加入較晚僅10次迭代,若有更多時間預期成績更佳。內部已有多個模型交由Alpha Lab改進並投入生產。

2.0版本核心認知轉變:系統真正價值並非來自模型本身,而是精心設計的評估框架與環境。新版採用Kaggle式架構——資料輸入、框架評估、模型提交容器化——配合公開排行榜與保留驗證集的雙軌評估。更重要的是建立定量與定性評估雙維度框架,觀察代理思考流程是否符合優秀研究人員工作方式。這些精心設計的評估作為強化學習信號,使系統實現自我改進與元優化。團隊同時探索從開源模型軌跡收集優質資料,研究權重與策略蒸餾方法,最終目標是創造開源與閉源模型結合的最優方案。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。