KeyFrame內部研究專用

Simulation: the new Scaling Law — Joon Sung Park, Simile AI

Latent Space·8月21日週五·69 min英文

三句話摘要

用生成式 AI 和行為數據精準建模人類決策,打造社會模擬平台以支持企業和政策制定。 模擬是理解與塑造人類社會的新工具——透過準確建模人的非理性行為而非純理性推理,讓決策者得以設計更好的未來,而非只被動預測它。 生成式 AI 真正的殺手級應用不在簡單分類與生成,而在於模擬逼真的人類行為與社會互動——這需要理解人不只說什麼,還實際做什麼,以及為什麼做。

重點整理

重點
  • 1

    生成式 AI 真正的殺手級應用不在簡單分類與生成,而在於模擬逼真的人類行為與社會互動——這需要理解人不只說什麼,還實際做什麼,以及為什麼做。

  • 2

    準確建模需要整合三層數據:質性訪談(生命故事)、觀測行為(交易紀錄、線上行為)、因果機制(隨機對照試驗)——語言模型的統計知識不足以捕捉人類的細微偏好與非理性決策。

  • 3

    與通用大型語言模型相反,Similily 的模型目標是「和人類一樣聰明且同樣犯相同的錯」,而非超理性的推理機器——需要完全不同的訓練目標、數據集和優化方向。

  • 4

    模擬的價值不在被動預測未來,而在積極指導改變路徑的每一步,如科幻小說《基地》心理史學的邏輯——讓決策者看見如何塑造未來,而非只知道未來會如何。

實用技巧與重點

乾貨
  • 準確度:85%(Similily)vs 20-60%(前沿通用模型在小眾人群上)
  • 核心論文:
  • Generative Agents: Interactive Simulacra of Human Behavior(Smallville,2023)
  • Generative Agent Simulations of 1,000 People(2024 年底)
  • Foundation Model 機會與風險論文(2021,發明「foundation model」術語)
  • 數據蒐集方式:2 小時訪談、行為實驗、pre-registered RCTs(隨機對照試驗)
  • 主要客戶應用:CVS(概念測試)、Gallup(策略夥伴)、Deloitte、Wellfront(多模態 UI 測試)
  • 驗證方法:1000 人參與者、2 週建模、回歸進行調查+經濟遊戲+人格測試,對比預測準確度
  • 數據來源平台:Open Science Foundation(pre-registered studies)、American Voices Project、客戶交易數據
  • 公司規模:60 人,15-20% 為前史丹佛實驗室成員,四位共同創辦人包括 June、Michael Bernstein、Percy Liang、Lanie
  • 市場規模假設:市場研究業百億美元規模,但模擬應用涵蓋所有人類決策領域

結論

結論

模擬是理解與塑造人類社會的新工具——透過準確建模人的非理性行為而非純理性推理,讓決策者得以設計更好的未來,而非只被動預測它。

完整解析

詳細

June 是韓裔美國研究員,從小在波士頓長大,原本以繪畫為志,後在大學轉向科技領域。2020 年進入史丹佛攻讀博士時,正逢 GPT-3 與基礎模型興起,他與 Michael Bernstein、Percy Liang 等人展開「時光機遊戲」——想像十年後最有價值的應用是什麼?最終選定社會模擬勝過個人助理,因為真正有用的助理首先需要深入理解每個人,而這正是模擬的核心問題。

現有大型語言模型被訓練成超理性推理機器,擅長分類與生成,卻對人類行為的預測準確度只有 20-60%。June 的 Similily 另闢蹊徑:不追求模型參數的優化,而是蒐集三層結構化數據——人物故事訪談(擷取童年、創傷、人生選擇的深層故事)、觀測行為數據(交易紀錄、線上活動)、因果機制數據(隨機對照試驗,例如讓參與者在虛擬商店購物,購買真的會寄送)。關鍵洞見是語言模型缺乏「社會物理學」,尤其是人類真實生活中的深層行為,而非只是網路上表面說什麼。

2024 年底,Similily 發表重要研究論文:找來 1000 名代表美國人口的參與者,花兩小時蒐集訪談與行為數據,以此建構「數位雙胞胎」。兩週後讓參與者進行調查、經濟遊戲、人格測驗等真實行為決策,結果發現模型能以 85% 的準確度預測人的真實選擇——遠超通用 LLM 的 20-60%。這揭示了一個反直覺的設計原則:模型不需要變得比人聰明,反而要在同樣的地方犯同樣的錯。

模擬的真正價值不在預測(被動知道未來會如何),而在塑造(主動指導如何改變未來)。June 以《基地》系列科幻小說為喻:心理史學模擬預測了帝國衰退,進一步建議的第一步是「將警告帝國衰退的科學家流放到邊陲星系」——這個建議看似荒謬,卻是多層次模擬揭示的必要第一步。應用於企業時,一家電動車公司可能發現,用某種特定方式行銷電動車會提升電動車銷量,卻因改變人們對整個車隊的認知而降低整體銷售——單純優化電動車銷量的決策者會完全錯過這個全局洞見。

客戶應用從 CVS 的概念測試(新產品或訊息向合成人群測試)、Gallup 的政策評估、Deloitte 的策略分析,到 Wellfront 的 UI 與多模態產品測試。模擬讓組織能宣稱「我們諮詢過用戶」,但規模達數千至數萬人,無需騷擾真實用戶答千個問卷。長期願景更加宏大:模擬氣候變遷解決方案(多方利益相衝突的複雜決策)、民主衰退預警訊號、貨幣制度起源等「邪惡問題」(wicked problems),甚至最終模擬全球八十億人的社會互動。June 相信這類工作終將贏得諾貝爾經濟學獎。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。