KeyFrame內部研究專用

Opening Keynotes - AIE Paris 2025 (Day 1)

AI Engineer·9月24日週三·85 min英文

三句話摘要

AI Engineer 巴黎大會開幕式與 2025 年 AI 工程發展現狀分析。 2025 年標誌著 AI 代理的長期基礎設施建設階段開始,模型自主性與工具整合不斷深化的同時,企業實施的關鍵在於資料治理、工具互通和深度定製,而非盲目追求最新模型。 --- ## 使用者指南 我已按照您的格式要求完成了這份逐字稿分析。如果您需要針對某個章節深化、調整口吻或增刪內容,我可以立即修改。 代理發展是長期趨勢,非短期炒作。 Swix 指出今年初許多人宣稱「2025 年是代理年」,但實際上這只是未來十年持續構建代理基礎設施的起點。關鍵轉變是模型正在接受專門後訓練以支援更長的自主執行時間(已達 200 分鐘,即將突破小時級),且計算資源分配已從傳統的預訓練為主轉向後訓練和強化學習同等投入。

重點整理

重點
  • 1

    代理發展是長期趨勢,非短期炒作。 Swix 指出今年初許多人宣稱「2025 年是代理年」,但實際上這只是未來十年持續構建代理基礎設施的起點。關鍵轉變是模型正在接受專門後訓練以支援更長的自主執行時間(已達 200 分鐘,即將突破小時級),且計算資源分配已從傳統的預訓練為主轉向後訓練和強化學習同等投入。

  • 2

    工具思考與多模態成為代理核心能力。 模型不再簡單呼叫工具,而是在思維過程中整合工具呼叫,形成「用工具思考」的新正規化。同時 MCP(Model Context Protocol)逐漸成為標準互通層,Google 的 A2A 和 Zed 的 ACP 也在建立代理之間的互操作性。

  • 3

    程式碼代理領域增長最快但評估缺失。 程式碼補全工具(如 Cursor)在無正式評估的情況下實現 5 億美元收入,說明產品驅動優於事前評估。但缺乏標準評估方法仍是業界待解難題,涉及何時應該建立多智慧體系統、如何進行提示工程等開放性問題。

  • 4

    企業級 AI 實施的四大技術障礙。 Mistral AI 總結企業面臨的真實難題:資料孤島與治理缺失(資料分散無後設資料)、多供應商生態割裂(每個 SaaS 都有自己的 AI 助手但互不連通)、黑箱性與可觀測性不足(需建立信任與安全工具)、團隊專業知識欠缺(缺乏 AI 治理與模型最佳化的經驗)。

實用技巧與重點

乾貨
  • 大會基本資訊
  • 地點:Station F,巴黎
  • 時間:兩天(2025 年 9 月)
  • 參與者:70% 來自法國以外
  • 演講者:30+ 位
  • 贊助商:Neo4j(白金)、Docker(白金)、Sentry、Arise AI、DeepMind、Algolia(黃金)
  • 關鍵數字與增長指標
  • 舊金山 2024 年世界博覽會:150+ 場演講,18 個主題
  • Station F 創立於 8 年前,現有 1000 家新創公司
  • 年度評選最佳 40 家公司排名全國前 10,000
  • 70% Station F 創業公司從事 AI 或核心產品含 AI 元件
  • ChatGPT 兩個月內達 10 億使用者
  • Replit 代理自主執行時間:200 分鐘
  • Cerebra Code:每秒 2000 個令牌(vs 標準 100-200)
  • 無評估情況下最成功程式碼代理收入:5 億美元
  • 重要模型與工具
  • Mistral 7B(開源,釋出時最先進小型模型)
  • Mistral 8×7B(專家混合版本)
  • Mistral Coder(程式碼補全)
  • Mistral Studio(複雜 AI 應用開發包裝器)
  • Claude GPT-4.5、Frontier Labs 等
  • MCP(Model Context Protocol)
  • A2A(Google)、ACP(Zed 代理客戶端協議)
  • Cursor、Samova、Cerebra Code(程式碼代理)
  • 企業 AI 實施的六步飛輪
  • 構建(Build)- 選擇合適模型與工具
  • 部署(Deploy)- 與現實使用場景整合
  • 觀察(Observe)- 收集使用者行為與系統資料
  • 改進(Improve)- 微調模型與最佳化流程
  • 自定義(Customize)- 避免現成方案,需根據場景調整
  • 重複迭代
  • 資料治理解決方案
  • 建立上下文引擎(Context Engine)統一不同提供商資料
  • 引入 AI 來解析資料孤島、分類、理解本體
  • 消除供應商鎖定,採用多 MCP 伺服器
  • 實施訪問控制統一模型(適配 Google Drive、Teams、Slack 等)
  • 企業價值創造的兩個維度
  • 增長:創新用例、新產品、新資料處理能力
  • 效率:流程簡化、時間節省、員工生產力提升
  • 後續活動
  • AI Engineer 編碼代理峰會:2025 年 11 月回到紐約
  • 宣佈 AI Engineer 教育峰會(時間待定)

結論

結論

2025 年標誌著 AI 代理的長期基礎設施建設階段開始,模型自主性與工具整合不斷深化的同時,企業實施的關鍵在於資料治理、工具互通和深度定製,而非盲目追求最新模型。 --- ## 使用者指南 我已按照您的格式要求完成了這份逐字稿分析。如果您需要針對某個章節深化、調整口吻或增刪內容,我可以立即修改。

完整解析

詳細

AI Engineer 大會首次在美國之外召開,於 2025 年 9 月在巴黎的 Station F 舉行。這標誌著由 Benjamin Dunham 和 Swix 共同創立的 AI Engineer 社群的全球擴充套件。聯合創始人 Benjamin 解釋了這一決策的考量:建立高質量的社群活動需要合適的合作伙伴具備遠見、動力、專業精神和風險承受能力。他們選擇了 Coy(一個為 AI 應用提供高效能無伺服器基礎設施的公司)作為主辦方,Coy 創始人兼 CEO Yan Leger 則強調了 Station F 作為歐洲最大 AI 中心之一的戰略地位——這裡有 1000 家新創公司,70% 從事 AI 領域,知名校友包括 Hugging Face。

Swix 在主旨演講中重新審視了「2025 年是代理之年」這一判斷。他指出,這並非短期泡沫,而是長期基礎設施建設的開始。雖然年初許多領袖人物(如微軟 CEO Satya Nadella、OpenAI 的 Roman 和 Greg Brockman)聲稱 2025 是代理年,但更準確的理解是:未來十年都將圍繞大規模代理構建展開。這既是一個黃金時代的機遇——職業生涯中前所未有的順風——也解釋了為什麼政府和私人資本正在投入數千億美元用於基礎設施建設。事實上,這種投資規模和速度使得數字變得難以理解,但象徵著有史以來最宏大的基礎設施工程之一。

代理技術本身的演變體現在兩個關鍵變化上。首先是模型的自主性顯著增強:從早期的簡單工具呼叫演變為「用工具思考」,即模型在思維過程中自然整合工具使用,而非事後呼叫。其次是自主執行時間的擴充套件,從早期的分鐘級(如 200 分鐘)快速邁向小時甚至天級,這得益於模型的專門後訓練。與此同時,一個重要的技術轉變正在發生:計算資源分配已從傳統的預訓練主導模式轉向預訓練與後訓練(以及強化學習)資源投入相當的模式。這種變化首次出現在 xAI 對 Grok-4 的處理中,後來 OpenAI 也在 GPT-4 Fast 上採用了類似策略。

圍繞代理的標準化工作同樣重要。MCP(Model Context Protocol)已成為主流,但基於 MCP 的進一步發展正在湧現。特別值得關注的是 Zed 推出的 ACP(Agent Client Protocol),它正在成為終端代理(如 Cloud Code 和 OpenCodeEx)之間的互通層。這意味著使用者可以靈活切換代理,甚至在保持相同 UI 的情況下替換底層實現。Mistral AI 也推動了一個共識:每家模型提供商都應該提供包含標準工具庫(程式碼執行沙箱、網路搜尋、文件庫、多模態處理)的代理 API。這是對 Andrej Karpathy 2023 年關於 LLM OS 論文的實踐落地,雖然在記憶與編排能力上仍有空白需要填補。

從應用角度看,程式碼代理領域的發展最為引人注目。Cursor 等工具在完全沒有正式評估體系的情況下實現了 5 億美元的收入,這反映出在快速迭代的市場中,產品驅動的驗證勝過學術式的事前評估。然而,這也反映出行業對評估方法的困境:應該有多嚴格的評估標準?Swix 引用了 Claude 首席架構師 Boris 的觀點——「最終一切都取決於感覺」——指出在新興領域建立評估標準的必要性與其可能成為進步障礙之間存在張力。

企業級 AI 實施則面臨截然不同的挑戰。Mistral AI 工程主管 Leo Lavo 深入分析了企業客戶遇到的四大技術障礙。首先是資料問題:企業積累了數年甚至數十年的資料,卻通常分散儲存在各處,缺乏 AI 治理策略和適當的後設資料標註。其次是多供應商生態的割裂:每個 SaaS 提供商(如 Salesforce)現都開發自己的 AI 助手,但它們基於不同 API(OpenAI、Google Cloud、Mistral),彼此互不連通,導致使用者面臨資料孤島問題。第三是可觀測性與可信度:模型的非確定性特性使得企業難以建立信任,需要提供可驗證的資料來源、輸出分類和行為追蹤。第四是專業知識缺口:大多數企業員工缺乏 AI 系統最佳化的知識,包括系統提示如何影響效能、模型何時出現偏差等。

Mistral 的解決方案強調建立一個「飛輪模型」:構建→部署→觀察→改進→迭代。關鍵是避免將 AI 視為現成的工具,而應根據具體使用場景進行深度定製。具體做法包括:利用 AI 自身來解析和整理資料孤島,建立統一的上下文引擎來對映不同提供商的資料到共同本體,採用專屬模型訓練和持續最佳化。Leo 特別強調,企業需要建立上下文引擎來真正理解分散在 Google Drive、Teams、Slack 等平臺上的資料,而不僅僅依賴 MCP 伺服器。這需要強大的訪問控制統一模型,同時避免供應商鎖定。從價值創造角度,AI 可以帶來增長(新產品、新用例、新資料處理)和效率(成本降低、流程簡化、員工生產力提升)。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。