KeyFrame內部研究專用

How Forward Deployed Engineering is done at Ramp — Leo Mehr

AI Engineer·7月28日週二·14 min英文

三句話摘要

FDE 在 AI 時代的成功需要精準的需求範圍界定與持續利用代理人擴展能力。 FDE 的未來競爭力在於同時精通精準的需求範圍界定和有效的 AI 代理人系統建構。 FDE 的核心職責是幫助客戶成功,而非簡單滿足要求。應透過提問理解客戶真實需求、驗證基本假設、評估替代方案,才能決定真正值得構建的功能。

重點整理

重點
  • 1

    FDE 的核心職責是幫助客戶成功,而非簡單滿足要求。應透過提問理解客戶真實需求、驗證基本假設、評估替代方案,才能決定真正值得構建的功能。

  • 2

    範圍界定需要驗證細節。講者分享了團隊投入數週在 iOS 和 Android 上開發報銷功能,卻在完成後才發現客戶公司規定所有員工必須使用 iOS 的教訓。

  • 3

    AI 代理人可應用於 FDE 流程的每個階段——從收集上下文、界定範圍、編寫規範到實現功能,逐階段替代手動工作。

  • 4

    需求界定和代理人擴展必須同時進行。只擅長其中一項會導致浪費資源或被競爭對手超越,唯有兩者並行才能奠定競爭力基礎。

實用技巧與重點

乾貨
  • 講者職位:Ramp 公司工程總監
  • 團隊成長:2 名工程師(加入時)→ 約 30 名工程師(現在)
  • 分佈:4 個部署、開發者 API、新 AI 服務業務
  • 內部流程工具:Notion 工作流程(Slack 頻道發布請求)
  • Notion 代理 V1:接收請求並提問
  • Notion 代理 V2:多輪對話後生成規範(包含企鵝圖示)
  • 效果:回覆延遲從數小時/天→秒級;節省約 20% 需求理解時間
  • 使用模型:Frontier 型號(可一次實現中等規模功能)
  • 未來工作重點:代理框架運作、輸出品質評估、上下文管理

結論

結論

FDE 的未來競爭力在於同時精通精準的需求範圍界定和有效的 AI 代理人系統建構。

完整解析

詳細

這場演講來自 Ramp 工程總監,分享 FDE 在 AI 時代的兩個核心原則。首先是需求範圍界定。許多人誤解 FDE 的工作就是對客戶說「是」,但實際上這會導致資源浪費和產品方向偏差。講者以真實案例說明:某周五晚間,銷售代表帶著緊急要求——構建 SAP S/4HANA 集成以成交大客戶。訓練有素的 FDE 不應立即動手,而是停下來問「這個緊迫性從何而來?」通過深入提問,FDE 可以理解使用者、已嘗試的替代方案、手動替代方案可行性、客戶技術資源等關鍵信息。同時考量其他客戶是否能受益、整個產品架構的影響。這避免了盲目開發。

講者分享了一個痛苦的教訓:當初一個大型企業客戶需要行動裝置報銷功能,iOS 和 Android 團隊都很忙,FDE 團隊投入數週在兩個平台開發。完成後才發現客戶公司規定所有員工必須使用 iOS,導致全部努力白費。這強化了驗證基本假設的重要性。

演講第二部分涉及代理人擴展。Ramp 構建了基於 Notion 的代理系統處理需求。內部 Slack 頻道收到客戶經理、解決方案經理、銷售代表的請求,但質量參差——有些詳細完整,有些只是一行文字。原本需要 FDE 手動閱讀理解、與客戶溝通。V1 版本代理接收請求並提問,結果驚人:回覆延遲從數小時甚至天級降到秒級,用戶立即開始與代理互動。升級到 V2 版本,代理與提交者進行多輪對話直到準備生成規範。效果是節省約 20% 原本用於理解需求的時間。

但這只是管線的第一階段。從規範到可用產品是最複雜部分,Frontier 模型可一次實現中等規模功能。講者的團隊正投資代理人工廠以替代管線各環節。未來 6-12 個月的工作是解決應用人工智慧的問題:確保代理框架運作流暢、管線輸出品質良好(需評估、評分標準、人工反饋)、確保代理擁有正確背景信息。這涉及歷史數據、產品知識、Notion 文件、知識庫、工具集成。儘管如此,FDE 始終要對最終產品承擔品味判斷責任。

演講最後強調關鍵:需求界定與代理人擴展必須同時進行。只擅長需求調查但不投資代理人工廠,競爭對手會超越你;反之亦然,範圍界定不當的代理人只會生成垃圾。兩者相輔相成,才能為 FDE 未來奠定基礎。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing
編輯精選
83 min
AI 技術英文PODCAST8月26日

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing

Latent Space

  • 加速傳統物理模擬的典範轉移:氣象科學家原本認為 AI 無法匹敵數十年的物理建模工作,但傅里葉神經算子不僅達到同等精度,還快了一萬多倍。原本需要超級計算機的計算現在用消費級 GPU 就能完成,這改變了整個領域的思維方式。
  • 傅里葉域的非局部現象捕捉:傅里葉域能有效表示非局部現象(如大氣河流跨越千里的影響),且計算複雜度為準線性,遠優於完全連接的全局模型。這特別適合流體動力學、量子化學等自然現象中普遍存在的非局部相互作用。
  • 多解析度連續函數表示:神經算子將輸入輸出視為連續函數而非固定維度向量,可在推論時以任意解析度查詢,並能在更高解析度上疊加物理約束或額外數據,克服了固定解析度神經網路的限制。
Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Why the Next AI Breakthrough May Come from Physics with Max Welling - #774
55 min
AI 技術英文PODCAST8月25日

Why the Next AI Breakthrough May Come from Physics with Max Welling - #774

TWIML AI

  • 多層篩選的材料設計流程:先搜尋文獻資料庫找現有材料,若無合適的就用生成模型產生數十萬個候選分子,用機器學習力場進行分子動力學模擬篩選,再進行實驗驗證。這套流程相比傳統量子力學計算能加速效率數個數量級。
  • 生成AI與熱力學的數學等價性:資訊論是兩個領域的共同基礎,生成模型的擴散過程與非平衡統計力學描述資訊損失的過程在數學上完全對應,許多開發出來的方法工具在兩領域都有精確對應的形式。
  • 基礎模型的遷移學習策略:先在廣泛材料資料集上訓練基礎力場表示,再針對特定材料類別進行蒸餾微調,既能保持計算效率也能獲得專一性。