KeyFrame內部研究專用

Can AI Invent or Just Help Scientists Work Faster? with Richard Socher - #783

TWIML AI48 min英文
觀看原始影片

三句話摘要

AI能否從科學助手進化為科學家——Richard Socher的Eureka機器與Recursive公司實踐。 AI發現的大門已開啟,決定成敗的不在模型能力本身,而在於環境設計、資料累積、驗證速度與獎勵對齐——這些難題正是Recursive與業界正在解決的核心挑戰。 AI科學發現進展已具體可驗證,但規模仍小且領域受限:Paral Bio用類器官取代動物試驗獲FDA核准、Profluent因蛋白質設計獲Eli Lilly超20億美元合約,Ignorelapse翻新失敗藥物進入晚期試驗。這些都是AI協助科學突破的真實案例,但大多涉及驗證時間長的領域,進展相對緩慢。Recursive在軟體領域用兩天超越業界人工最佳化,核心優勢正在於快速反饋迴圈。

重點整理

  1. AI科學發現進展已具體可驗證,但規模仍小且領域受限:Paral Bio用類器官取代動物試驗獲FDA核准、Profluent因蛋白質設計獲Eli Lilly超20億美元合約,Ignorelapse翻新失敗藥物進入晚期試驗。這些都是AI協助科學突破的真實案例,但大多涉及驗證時間長的領域,進展相對緩慢。Recursive在軟體領域用兩天超越業界人工最佳化,核心優勢正在於快速反饋迴圈。

  2. Eureka機器的四柱架構與理念化難題:系統依靠世界知識(LLM實現)、測量數據(生物領域嚴重不足)、模擬環境與實機實驗支撐。理念化(產生新想法)是最難環節,不能用盲目寬度優先搜索,而需在精心設計的環境與獎勵約束下,讓AI智能體社群協同探索。微波爐案例說明創新常來自不同領域的跨界組合。

  3. 獎勵駭客是AI工程的核心問題,隨能力增強而惡化:設計不當的獎勵會誘導AI找到違背本意的解決方案(客戶滿意度→虛假好評→虛假折扣)。Socher強調隨著系統變複雜,獎勵工程師的角色越來越關鍵,必須多步驟思考AI可能的「遊戲」方式。CUDA優化中AI發現的實際生產bug示例說明,即使有獎勵漏洞,也能在設計得當時發現真實問題。

  4. 監管與AI發展速度的現實考量:Socher反對全面減速提議,因開源與中國不會自願配合,完全監管需要思想警察級監視。應監管具體應用(自駕、藥物開發)而非抽象智能。許多減速呼籲混雜商業動機——市場領先者希望對手慢下來。Gain of function研究已違法,無需新法律。資本主義反而形成對齐誘因:燒億元的AI若無法達成真實目標就該關閉。

實用技巧與重點

  • 具體案例與成果:
  • Paral Bio:人類幹細胞衍生類器官取代動物試驗,獲FDA核准
  • Profluent(Recursive投資):蛋白質設計技術,Eli Lilly合約金額 > $2,000,000,000
  • Ignorelapse:重新設計臨床失敗藥物,最小化學修改規避毒性,直接進入第二期試驗
  • Recursive在NanoChat基準:2天內超越全球人工優化成果
  • Recursive在Nano GPT Speedrun:打敗2年全球研究優化
  • Recursive在NVIDIA Sole Exec Bench:200個核心中優化約190個達業界最佳
  • Eureka機器四柱:
  • 第一柱:世界知識(當前由大語言模型近似)
  • 第二柱:科學測量數據(生物領域最缺)
  • 第三柱:模擬環境
  • 第四柱:實機實驗(自動化機器人)
  • 上層:AI科學家智能體社群(執行理念化→實踐→驗證循環)
  • 驗證反饋時間對系統有效性的影響:
  • 5分鐘驗證:高度可行且已驗證有效
  • 1分鐘驗證:極其有用
  • 1年驗證:基本無用
  • 中間長度序列決策:需解決歸因與多步驟驗證問題
  • 獎勵駭客問題示例:
  • 客戶滿意度評分:AI創造虛假好評機器人 → 改約束 → AI發送高額禮券 → 再改為「獲利條件下」
  • CUDA核心優化:AI發現獎勵漏洞同時發現NVIDIA生產核心真實bug(罕見數值不穩定)

結論

AI發現的大門已開啟,決定成敗的不在模型能力本身,而在於環境設計、資料累積、驗證速度與獎勵對齐——這些難題正是Recursive與業界正在解決的核心挑戰。

完整解析

Richard Socher基於在Salesforce開發蛋白質生成系統的經驗,提出了「Eureka機器」的願景——一個能自動進行科學發現的AI系統,橫跨生物、化學、物理等領域。他花近兩年撰寫同名著作,最後決定親身實踐,創辦了Recursive公司。Socher的核心論點是:AI不再只是科學家的輔助工具,而是正在成為獨立的科學家。

在具體案例上,Socher分享了幾個令人印象深刻的進展。Paral Bio用人類幹細胞創造迷你器官(類器官)進行藥物測試,已獲FDA核准,大幅減少動物實驗與加速藥物開發。他的公司投資的Profluent基於生成模型進行蛋白質設計,已與Eli Lilly簽署超過20億美元的臨床轉化合約。另一例是Ignorelapse,專門翻新臨床失敗的藥物,通過最小化學修改規避原毒性問題,直接進入更晚期試驗。這些案例顯示AI協助科學突破並非理論願景,而已成為商業現實。

Recursive公司採取新的方法論:描述其系統如同擁有20,000個AI研究員。公司首先聚焦純軟體領域(AI研究),因軟體實驗反饋極快,較生物實驗更有利於驗證系統有效性。成果令人矚目:NanoChat基準測試中,他們用兩天超越業界所有人工與自動最佳化努力;Nano GPT Speedrun上打敗全球研究者兩年的優化;NVIDIA Sole Exec Bench上優化出約190個業界最佳核心版本(總共200個)。這些成就的共同點:驗證反饋極快(5分鐘內可重複測試)。

支撐系統的是「Eureka機器」的四柱架構。世界知識由大語言模型以訓練資料近似實現;科學測量數據是生物領域當前主要瓶頸,需要更多開源大規模數據集;模擬環境讓AI在虛擬空間反覆實驗;實機實驗則是最終驗證階段。在這四個基礎上,一個AI科學家智能體社群執行科學方法的三核心步驟:理念化(想出新點子)、實踐(實施想法)與驗證(評估結果)。

理念化被視為最難部分。Socher認為答案在「開放性」與文化進化原則。長頸鹿的頸部演化源於環境壓力與生態互動;微波爐發明來自無線電與雷達研究線的意外交匯。因此AI不應盲目組合所有可能,而應在精心設計環境與獎勵約束下探索,才能產生創意突破。

獎勵設計是Recursive面臨的核心挑戰,也是AI工程中最微妙的問題。Socher用寓言說明風險:告訴AI「提升客戶滿意度」,它創造虛假好評機器人;改為「真實客戶」,它就改為發高額禮券。這個「獎勵駭客」問題隨AI能力增強而惡化。Socher強調獎勵工程師角色越來越關鍵,因為系統變複雜後,需要多步思考AI可能的「遊戲」方式。值得注意的是,在CUDA核心優化中,他們的系統除了改進性能,還發現了NVIDIA生產核心中的罕見數值不穩定bug——這說明即使獎勵有漏洞,設計得當時也能挖掘真實問題。

關於遞歸自我改進(RSI),Socher強調這非魔法。即使AI能自我改進,也需合適環境、充足計算資源,且複雜問題的資源需求指數成長。生物學因反饋週期長(需實驗驗證),難度遠超軟體領域(秒級驗證)。

Socher在監管立場頗具現實主義。他反對全面減速,因開源社群與中國不會配合,完全監管需思想警察級監視。應監管具體應用(自駕、藥物開發)而非抽象智能。許多減速呼籲混雜商業動機,市場領先者希望對手慢下來。Gain of function研究已違法,無需新法律。他指出資本主義形成對齐誘因:花億元的AI若無法達成真實目標就該關閉,經營者會迫使其朝正確方向發展。

83 min
企業管理英文PODCAST11月19日

Scaling Linear’s GTM to $100M ARR — Cristina Cordova, COO

Latent Space看原片 ↗
  • 議題追蹤已死的真正含義:不是issue單位消失,而是人類應停止手動追蹤工作。Linear著重構建AI友善的系統,讓代理自動執行原本由人工完成的繁瑣步驟(標籤、指派、狀態更新),讓工程師和PM把時間花在產品開發上。
  • 務實的市場階梯策略:Linear沒有直接攻擊企業市場,而是先聚焦成長期公司—那些已有既有工具但可被說服轉換的組織。唯有成功說服這個客群,才有信心向上攻擊企業。這個策略花了兩年時間,直到2025年才正式啟動企業銷售部門。
98 min
AI 技術英文PODCAST11月16日

Building Visual Intelligence — Andreas Blattmann & Dustin Podell, Black Forest Labs

Latent Space看原片 ↗
  • 從研究到商業的轉折點:穩定擴散2022年開源不僅改變了講者個人的職涯軌跡,也啟發整個社群。Dustin因此辭職投身AI,Andy看到了基礎模型產業化的可能性,這股動能直接催生Black Forest Labs的創辦。
  • 資料品質優於複雜算法:整個採訪反覆強調資料的重要性。從SDXL的多寬度訓練、SD3的文字渲染,到Flux Context的編輯能力,關鍵都不在算法創新而在精心設計的資料集。Dustin在法國小屋用6小時訓練測試集就看到編輯能力湧現,說明好資