KeyFrame內部研究專用

You Can't Prompt the Room: The Last Skill AI Won't Replace - Balázs Horváth, VisualLabs

AI Engineer15 min英文
觀看原始影片

三句話摘要

AI 時代軟體開發的真正瓶頸已從寫代碼轉移到確定應該構建什麼,需要透過需求分析與人際溝通能力來確保產品價值。 AI 時代的關鍵競爭力已從編寫代碼轉向透過商業分析與需求挖掘來確定正確要構建的產品,這將決定企業是構建被廣泛使用的成功系統,還是構建被閒置的失敗產品。 代碼已商品化,需求分析成為競爭優勢:當所有團隊都能用 AI 快速生成代碼時,區別在於誰能更準確地理解商業需求。過去 13 年講者從測試工程師、功能顧問到創辦公司,始終充當商業與技術的橋樑,這項技能在 AI 時代變得更加關鍵。

重點整理

  1. 代碼已商品化,需求分析成為競爭優勢:當所有團隊都能用 AI 快速生成代碼時,區別在於誰能更準確地理解商業需求。過去 13 年講者從測試工程師、功能顧問到創辦公司,始終充當商業與技術的橋樑,這項技能在 AI 時代變得更加關鍵。

  2. 故事地圖是最實用的需求收集工具:將使用者流程拆解為主流程(支援系統中的「聯繫→分類→解決→結案」),再在每一步下挖掘使用者故事,能清晰識別 MVP 需要構建什麼。每個故事應包含「角色」「做什麼」「為什麼」的標準格式,因為 AI 對此格式訓練充分。

  3. 價值架構設計(VAD)流程:價值→流程→架構→設計:先確認為誰解決問題、成功的定義是什麼、什麼會讓他們拒用、是否能改變決策,再反推需要構建的系統。這個思考過程避免了「構建速度快但無人使用」的陷阱。

  4. 改變 KPI 指標衡量成功:停止計數「發布功能數」,改為計數「被使用超過兩次的功能數」。另要警惕「演示即可交付」和「功能點擊率高但重複使用率低」的反面模式。

實用技巧與重點

  • 具體例子
  • 內部黑客松:21 個 AI 代理想法中 17 個被放棄(無業務價值或無數據存取),4 個產生巨大影響
  • 支援系統使用者故事地圖主流程:聯繫 → 分類 → 解決 → 結案
  • MVP 涵蓋的第一層故事:「擷取進來」「分類緊急度」「草擬答覆」「記錄到系統」(共 4 個故事)
  • 第二層故事(待辦清單):讀取情緒、指派團隊、建議後續行動、檢查滿意度
  • 決策四問
  • 誰的問題?(指定具體角色/人物角色)
  • 成功的樣子是什麼?(量化的成果)
  • 什麼會讓他們拒用?(平台限制、易用性、資安考量)
  • 改變什麼決策?(目標是影響使用者決策)
  • 反面模式與警示
  • 功能發布速度快,但採用率低
  • 使用者試用新功能但不重複使用(單次體驗高但頻度低)
  • 演示很棒但無法投入生產
  • PRD 未經真實使用者驗證就開發
  • 立即行動清單(下周一開始)
  • 審計當前追蹤的錯誤指標
  • 將 KPI 從「上季發布功能數」改為「被重複使用超過兩次的功能數」
  • 將最強的技術人才轉向客戶對接和商業需求定義
  • 在開發前執行故事地圖或商業模式圖

結論

AI 時代的關鍵競爭力已從編寫代碼轉向透過商業分析與需求挖掘來確定正確要構建的產品,這將決定企業是構建被廣泛使用的成功系統,還是構建被閒置的失敗產品。

完整解析

在 AI 時代,軟體開發的競爭格局已經改變。講者指出,過去限制產出的瓶頸是能否寫出好代碼,但如今所有開發團隊都能透過 AI 快速生成品質相近的代碼。當代碼生成的成本和時間大幅下降時,真正決定軟體成敗的因素轉移到了「確定應該構建什麼」這個環節。講者用公司內部黑客松的例子說明:21 個 AI 代理構想中,有 17 個因為無法存取必要數據或沒有實際商業價值而被放棄,只有 4 個產生了重大業務影響。這充分反映了需求理解的重要性。

講者強調,建立這種需求理解能力的關鍵不是更強的技術棧,而是人際互動和商業分析的軟技能。他用「你無法向會議室提示詞,只能向 AI 提示詞」這句話概括核心差異。支援系統的故事地圖是他推薦的最有效工具:首先畫出使用者的完整旅程(聯繫客服→分類問題→解決問題→結案),然後在每個階段下挖掘具體的使用者故事。MVP 版本只需完成第一層的四個故事(擷取、分類、草擬、記錄),而讀取情緒、團隊指派、建議後續行動等則列入待辦清單供未來迭代。這種結構化方式特別適合 AI,因為大型語言模型在這類標準化格式上受訓練充分,能產生更準確的設計與代碼。

更重要的是建立正確的價值觀框架。講者提出了「價值架構設計」(VAD)流程:從「我們在為誰解決什麼問題」開始,深入四個關鍵提問——誰的問題、成功定義、拒用因素、決策影響——然後逆向推導必要的系統架構與流程改變。這與傳統產品管理思維相似,但在 AI 時代被賦予了新的經濟學意義:當所有人都能低成本地開發時,勝負手在於誰能更早、更準確地確定正確的方向。

講者也警告了常見的失敗模式:團隊發布功能的速度很快,但實際採用率很低;使用者嘗試新功能後便不再使用;或者花時間做出漂亮的演示系統卻無法轉換成生產系統。這些都反映了沒有真正理解使用者需求。他建議將 KPI 從「本季發布多少功能」改為「有多少功能被使用者重複使用超過兩次」,同時應該將公司的最強技術人才重新配置到客戶對接和需求定義的角色上,而非純粹的編碼工作。最後,他推薦每個專案在動手編碼前,都應該進行一次故事地圖或商業模式圖的規劃會議,確保整個團隊在構建的「是什麼」上達成共識。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI