KeyFrame內部研究專用

AI Engineer World’s Fair 2024 - Open Models track

AI Engineer·6月26日週三·17 min英文

三句話摘要

GitHub Next 探索 AI 時代軟體工程的未來——用電氣化歷史類比 AI 對軟體開發的革命性改變。 AI 將如電力般徹底重塑軟體工程,但這場轉變需要持續的探索和實驗,可能需要與電氣化相當的時間跨度才能真正內化。 AI 作為「新電力」的歷史類比:Andrew Ng 認為 AI 將像 100 年前的電力一樣徹底改變軟體開發。講者以製造業為例:蒸汽機時代工廠設計圍繞中央巨型引擎,工人適應機器;電動機出現後體積小但效率不減,允許工廠完全重新設計,但這個轉變用了 40 年才完成。

重點整理

重點
  • 1

    AI 作為「新電力」的歷史類比:Andrew Ng 認為 AI 將像 100 年前的電力一樣徹底改變軟體開發。講者以製造業為例:蒸汽機時代工廠設計圍繞中央巨型引擎,工人適應機器;電動機出現後體積小但效率不減,允許工廠完全重新設計,但這個轉變用了 40 年才完成。

  • 2

    GitHub Next 的獨立使命:該團隊約 20 人,獨立於常規產品團隊並直接向 CEO 匯報。目標是探索而非開發當前產品,這種獨立性讓他們能自由嘗試激進想法,不受短期商業壓力限制。

  • 3

    GitHub Copilot 的成功驗證:Copilot 是過去 1.5 年最頂級的 AI 產品,用戶成長和下載量數據驚人。它證明了 AI 驅動的開發工具已獲市場認可,也是 GitHub Next 探索方向的現實案例。

  • 4

    漸進式探索方法論:從功能原型 → 團隊內測試 → 公司內部推廣 → 技術預覽 → 正式產品,每個階段可學習與終止。這種結構化的失敗管道讓團隊能快速驗證想法並控制風險。

實用技巧與重點

乾貨
  • Charles River Ventures(CRV):成立 54 年,投資種子輪和 A 輪
  • GitHub Next 團隊規模:約 20 名研究人員和高級開發人員
  • GitHub Copilot:過去 1.5 年最成功的 AI 產品之一
  • 電氣化轉型時間:1880 年代電動機出現 → 1920 年代成為工廠主流,耗時 40 年
  • 蒸汽機時代特徵:中央巨型蒸汽機或渦輪機,煤炭驅動,工人透過傳送帶和管道系統連接
  • 電動機優勢:體積小且縮小後仍保持效率,允許工廠佈局完全重新設計
  • GitHub Next 開發流程:功能原型(團隊內)→ 內部測試(下一團隊)→ 內部推廣(公司內)→ 技術預覽(早期用戶)→ 產品化(最終階段)
  • 可終止設計:任何階段可放棄或終止項目

結論

結論

AI 將如電力般徹底重塑軟體工程,但這場轉變需要持續的探索和實驗,可能需要與電氣化相當的時間跨度才能真正內化。

完整解析

詳細

在 2026 年人工智慧工程師世界博覽會的 Code Gen 環節,Charles River Ventures 普通合夥人 Britney Walker 介紹了 AI 基礎設施投資現狀。CRV 是一家已成立 54 年的早期創投公司,近年來 Britney Walker 專注於 AI 基礎設施領域。在這過程中,她與 GitHub 的 AI 研究部門 GitHub Next 建立了聯繫,並邀請其負責人 Rahul Pandita 一起分享對軟體工程未來的看法。

GitHub Next 是一個特殊的研究部門,由約 20 名研究人員和高級開發人員組成。與常規產品團隊不同,GitHub Next 獨立運作並直接向公司 CEO 匯報。他們的使命清晰而宏大:探索軟體工程的未來。這種獨立性很關鍵——如果他們被融入常規產品流程,就無法進行足夠激進和長期的實驗。

談及 AI 對軟體工程的影響,講者引用機器學習先驅 Andrew Ng 的觀點:AI 就像電力一樣,是「新電力」,將改變軟體開發乃至幾乎所有領域。為了說明這個類比的深度,講者講述了製造業的發展史。在電氣化之前,工廠的中央有一台巨大的蒸汽機或蒸汽渦輪機,主要由煤炭驅動,透過複雜的軸系統和傳送帶驅動所有工作站。整個工廠的設計、佈局和工作流程都圍繞這台龐大機器展開,工人們必須適應機器的節奏和位置,而不是機器適應人。

1880 年代,電動機的出現改變了一切。電動機體積小得多,但即使縮小也能保持效率。這意味著工廠可以完全重新設計——每個工作站可以有自己的電動機,整個流程可以根據人的需求靈活組織。然而,即使前景如此光明,從 1880 年代初到 1920 年代末,人類花了整整 40 年才將電動機變成工廠的標準。這 40 年間,人們在不斷探索和實驗,嘗試理解這項技術、優化使用方式、降低採用風險,直到電動機真正成為常態而非例外。

GitHub Next 的工作正是這種長期探索精神的現代實踐。他們快速嘗試不同方法、製作原型、進行實驗,找出哪些方案可行。一旦找到可行方案,就展示給用戶,從反饋中學習,最終轉化為正式產品。整個過程是漸進且謹慎的:從功能原型在團隊內部開始,經過下一個團隊的內部測試,然後公司內部推廣,接著作為技術預覽版發布給早期用戶,最終才可能發展成正式產品。重要的是,GitHub Next 可以在任何階段終止項目,這種靈活性保證了高效的失敗管道——快速驗證想法,成功則推進,失敗則放棄,不會被沉沒成本所困。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。