KeyFrame內部研究專用

Why AlphaFold Didn't Solve Protein Folding — Pushmeet Kohli, Google DeepMind & Sal Candido, Biohub

Latent Space31 min英文
觀看原始影片

三句話摘要

AI模型開發中數據與建模的平衡,以及蛋白質結構預測後續挑戰的對談。 在AI驅動的生物科學中,應該從具體問題出發,在建模與數據間找到平衡,並通過開放的社區合作推進基礎研究,才能實現從結構預測到功能設計的真正突破。 數據的縮放規律因問題而異:並非所有地方都適用「更多數據更好」的邏輯。關鍵是找到在特定問題中,投入更多運算或數據確實帶來更好結果的縮放律,一旦找到就能變成工程問題。蛋白質語言模型例子說明:用不完整的宏基因組序列訓練反而提升了真實蛋白質設計的性能。

重點整理

  1. 數據的縮放規律因問題而異:並非所有地方都適用「更多數據更好」的邏輯。關鍵是找到在特定問題中,投入更多運算或數據確實帶來更好結果的縮放律,一旦找到就能變成工程問題。蛋白質語言模型例子說明:用不完整的宏基因組序列訓練反而提升了真實蛋白質設計的性能。

  2. 問題優先於方法選擇:建模者傾向於使用現有數據工作,數據產生者傾向於生成容易產生的數據,這導致做題目時被數據可得性驅動。應該先理解待解決的具體問題,再靈活決定投入建模努力或數據收集,同時理解時間和資源的實際約束。

  3. 蛋白質摺疊已解決表象掩蓋未竟業:AlphaFold 2 解決的是將蛋白質序列映射到已知PDB結構的問題,但並未解決蛋白質真實動態分佈、無序區域、功能等核心科學問題。直接從冷凍電鏡(cryo-EM)微圖進行模型訓練是未來可能的方向,可捕捉更完整的動態資訊。

  4. 信任度勝於完全可解釋性:AlphaFold 2並非人類認知層面可完全解釋,但準確的不確定性標定(pLDDT)使科學家能信任預測結果。關鍵是理解模型能做什麼、不能做什麼的行為特性和限制,而非解釋其內部工作原理,這樣才能在臨床應用中避免被誤導。

實用技巧與重點

  • AlphaFold 2 準確度:90% GDT-TS
  • 蛋白質語言模型使用宏基因組序列訓練,包含許多不完整蛋白質數據
  • PDB (Protein Data Bank):已知蛋白質結構資料庫
  • cryo-EM (冷凍電鏡) 微圖:未來直接分析對象,含完整動態資訊
  • Biohub 使命:治癒所有疾病
  • 重要思路:追求10倍改進(10x acceleration)而非10%改進,能帶來更廣闊的視角
  • 當前應用:AI已在藥物發現全流程應用,但真正的數倍加速還需更好的生物學基礎模型

結論

在AI驅動的生物科學中,應該從具體問題出發,在建模與數據間找到平衡,並通過開放的社區合作推進基礎研究,才能實現從結構預測到功能設計的真正突破。

完整解析

這場對談圍繞AI模型在生物科學應用中的根本問題展開。講者首先探討了「苦澀教訓」(Rich Sutton在DeepMind提出的原則:隨著規模擴大,縮放的系統最終會勝出)是否適用於數據領域。談話指出,縮放規律並非普遍存在,而是需要在特定問題背景下發現的。蛋白質語言模型的成功案例說明,使用高品質度較低的宏基因組序列(甚至包含不完整蛋白質)進行訓練,實際上能提升真實蛋白質設計的表現,這挑戰了「高品質數據才能成功」的直覺。

講者強調了一個核心謬誤:建模者容易傾向於使用現成數據工作,數據產生者傾向於生成容易製造的數據。這導致整個社區在最容易的地方用功,而不是最需要的地方。解決方案是採用第一原則思考──先明確定義要解決的問題,再決定投入建模努力還是數據收集,同時考慮實際的資源與時間約束。開放合作的社區方式至關重要,因為只有建模者和數據產生者共同工作,才能找到真正必需的數據,進而發現存在的縮放規律。

關於蛋白質結構預測,講者指出公眾認為「蛋白質摺疊問題已解決」,但實際上AlphaFold 2只解決了一個狹隘的問題:將序列映射到PDB已知結構。蛋白質的真實動態分佈、無序區域的功能、蛋白質與配體的相互作用等問題仍未解決。一位講者建議直接從冷凍電鏡微圖進行模型訓練,因為這些原始影像包含更完整的動態資訊,不會損失現有結構預測方法中的資訊。這種方向需要更多工作,但代表了朝向更深刻理解的路徑。

在理解與設計的權衡上,講者認為完全的可解釋性未必必需,但準確理解模型的行為特性至關重要。AlphaFold 2的成功之一是其預測不確定性的準確標定(pLDDT),使科學家能信任預測。此外,意外發現AlphaFold 2是優秀的無序蛋白質預測器,證明了模型具有未預期的泛化能力。關鍵是科學家需要理解模型能做什麼、不能做什麼,而非完全理解其內部運作機制。

最後,講者強調了從第一原則思考與追求10倍改進(而非10%)的重要性。只有通過跨學科合作、聚焦於生物學的基礎理解,AI才能在藥物發現中實現真正的加速,進而將成果帶入臨床應用。

83 min
企業管理英文PODCAST11月19日

Scaling Linear’s GTM to $100M ARR — Cristina Cordova, COO

Latent Space看原片 ↗
  • 議題追蹤已死的真正含義:不是issue單位消失,而是人類應停止手動追蹤工作。Linear著重構建AI友善的系統,讓代理自動執行原本由人工完成的繁瑣步驟(標籤、指派、狀態更新),讓工程師和PM把時間花在產品開發上。
  • 務實的市場階梯策略:Linear沒有直接攻擊企業市場,而是先聚焦成長期公司—那些已有既有工具但可被說服轉換的組織。唯有成功說服這個客群,才有信心向上攻擊企業。這個策略花了兩年時間,直到2025年才正式啟動企業銷售部門。
98 min
AI 技術英文PODCAST11月16日

Building Visual Intelligence — Andreas Blattmann & Dustin Podell, Black Forest Labs

Latent Space看原片 ↗
  • 從研究到商業的轉折點:穩定擴散2022年開源不僅改變了講者個人的職涯軌跡,也啟發整個社群。Dustin因此辭職投身AI,Andy看到了基礎模型產業化的可能性,這股動能直接催生Black Forest Labs的創辦。
  • 資料品質優於複雜算法:整個採訪反覆強調資料的重要性。從SDXL的多寬度訓練、SD3的文字渲染,到Flux Context的編輯能力,關鍵都不在算法創新而在精心設計的資料集。Dustin在法國小屋用6小時訓練測試集就看到編輯能力湧現,說明好資