KeyFrame內部研究專用

大众还没有真正意识到AI的发展 | Sam Altman斯坦福 | OpenAI的创业路 | 规模效应 | 模型研发会经历重大重构 | 公用事业 | 推理 | 教育体系变革 | 民主化普及

Best Partners TV·6月23日週二·19 min中文

三句話摘要

Sam Altman 對 AI 未來走向的判斷:兩年內 AI 將自主重構整個 AI 研發體系,改寫科技產業乃至整個社會的運作方式。 AI 正沿著指數曲線推進,而大多數人還未認知到這場變革的深度——再走三年半,整個社會的運作方式都將天翻地覆,我們現在只是這場巨大變革的開端。 規模帶來全新能力:每次規模擴大都產生無法預期的新特性,而非線性改進。這不只適用於模型,也適用於公司和創業生態,YC 的核心競爭力就來自大規模批次帶來的網路效應。

重點整理

重點
  • 1

    規模帶來全新能力:每次規模擴大都產生無法預期的新特性,而非線性改進。這不只適用於模型,也適用於公司和創業生態,YC 的核心競爭力就來自大規模批次帶來的網路效應。

  • 2

    產品的最好方向來自用戶行為而非事前規劃:ChatGPT 最初只是研究演示,開發者拿 API 密鑰聊天而非做業務落地,團隊順著用戶需求做了聊天機器人,結果掀起全球革命。

  • 3

    AI 研發體系即將重構:預計 2028 年 3 月前,AI 將能獨立探索新的模型架構,人類從執行者變成方向制定者和結果評判者,現有的調參訓練經驗兩三年內會快速貶值。

  • 4

    推理優化是未來核心戰場:整個行業資源集中在訓練,但推理環節投入遠遠不足。未來前沿實驗室會轉型成推理公司,推理就像電網一樣是普及智能的關鍵基礎設施,不需要巨額資金也有創業空間。

實用技巧與重點

乾貨
  • 時間表:2026年9月達到等效50萬張100GPU算力;2028年3月實現能端到端解決問題的AI研究員
  • 概率判斷:80%可能走向廣泛普及而非少數公司垄斷
  • 芯片定價:年初高端芯片預訂和現貨價差約5倍
  • ChatGPT 爆紅節點:發布後第4-5天確定為殺手級產品;之後流量每次回落都能站上更高位置
  • 教育改革方向:需要改變考核方式和教學內容,保留如寫作、編程等鍛鍊底層思維能力的科目
  • AI 應用場景:數學領域已驗證 AI 發現了困擾頂尖數學家數十年的新猜想
  • 電力普及類比:最早電力公司賣的是「晚上能看書的光明」而非電本身

結論

結論

AI 正沿著指數曲線推進,而大多數人還未認知到這場變革的深度——再走三年半,整個社會的運作方式都將天翻地覆,我們現在只是這場巨大變革的開端。

完整解析

詳細

Sam Altman 在這場對話中揭示了一個核心悖論:人們習慣關注下一代模型的參數和發布時間,卻鮮少意識到 AI 正在底層重構整個研發體系本身。他認為,過往一個需要上百名頂尖工程師的項目,如今通過承擔 token 成本的小團隊就能完成。這不是效率提升,而是對創業門檻的底層重構。

規模化是實現這一切的關鍵。Altman 強調,他職業生涯見過的所有最有價值的突破幾乎都與規模帶來的涌現特性有關。以 YC 為例,當年業內人士批評 YC 擴張過快,卻不知道大規模批次的網路效應才是其核心競爭力所在——這個規律同樣適用於 AI 領域。OpenAI 當年宣布持續擴大模型規模時也遭反對,但每次規模躍升都帶來沒人能預料的新能力。真正能做成規模化的團隊本質上是把技術、資金、文化等全方位阻力逐一拆解和扛過去。

ChatGPT 的誕生過程則顛覆了許多人對「頂尖產品」的想像。它並非事前規劃的產物,而是從用戶真實行為中自發生長出來。當 GPT-3 發布時,團隊其實很困擾,不知道該圍繞它打造什麼產品。他們將模型封裝成 API 開放,最初乏人問津,直到一月後幾個開發者在同一天分享了用它聊天的創意應用。團隊發現了一個有趣現象:許多開發者拿著 API 密鑰根本不用做業務落地,只是純粹用來聊天。用戶用實際行動說明了真正的強需求所在。團隊順勢推出了 ChatGPT,本以為只是研究演示,結果它直接在全球爆火,流量峰值不斷創新高。

放眼未來,Altman 給出了最犀利的判斷:AI 研發本身將被 AI 重構。到 2028 年 3 月,OpenAI 計劃擁有一個能獨立做研究的 AI 研究員。屆時,AI 研發不再是人類工程師寫代碼調參數,而是 AI 自己去試錯、探索、發現新架構。人類的角色將從執行者變成方向制定者和結果評判者。這意味著現在積累的調參和訓練實操經驗在兩三年內會快速貶值,真正有長期價值的是定義問題、判斷方向、評估結果的能力。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。