KeyFrame內部研究專用

Agentic Engineering vs Software Engineering: Beyond Vibe Coding

IBM Technology and IBM Developer·8月3日週一·10 min英文

三句話摘要

軟體工程向智能體工程的轉變:從編寫指令到設計目標的工程范式升級。 開發者的未來不是被AI取代,而是從編寫代碼轉變為設計與監督AI系統的行為——這要求更深的工程品質意識,而非更少的工程專業。 1. 確定性邏輯向機率判斷的轉變

重點整理

重點
  • 1

    1. 確定性邏輯向機率判斷的轉變

  • 2

    傳統軟體工程基於確定性:相同輸入得到相同輸出,每個步驟預先設定。智能體工程引入LLM與機率運算,系統能理解目標、自主規劃,這本質上改變了工程的運作方式。

  • 3

    2. 光譜式的逐步演進

  • 4

    AI輔助編碼不是二選一,而是一個演進光譜。團隊通常從氛圍編碼(快速原型)開始,隨著複雜性增加逐步進入主動編碼與智能體工程,每個階段對應不同程度的自主權委託。

  • 5

    3. 智能體工程的真正瓶頸是驗證

  • 6

    智能體系統可能產生幻覺、誤解意圖、濫用工具,或生成表面正確但架構不良的方案。因此核心工程挑戰不在生成,而在於協調、約束與評估。

  • 7

    4. 人類監督的價值反而增加

  • 8

    常見誤解是認為智能體系統會消除工程專業需求。實際上相反:系統越自主,工程師越需要深度理解其行為、確保可靠性,從代碼執行者升級為系統監督者。

實用技巧與重點

乾貨
  • 術語光譜(按自主權遞增):
  • 傳統軟體工程:開發者完全掌控流程
  • AI輔助編程(AI-Assisted Coding):自動補全、重構代碼片段,開發者主導
  • 氛圍編碼(Vibe Coding):用自然語言定義意圖,迭代塑造結果
  • 主動編碼(Agentic Coding):系統自主規劃、使用工具、編寫執行代碼、除錯
  • 智能體工程(Agent Engineering):工程師設計環境讓自主系統進行推理、協調、評估與動態適應
  • 智能體系統的風險類型:
  • 產生幻覺(hallucination)
  • 誤解使用者意圖
  • 濫用工具(tool misuse)
  • 技術上有效但架構糟糕的方案
  • 開發方法論建議:
  • 從小事做起,在當前工作流中使用工具
  • 注意工具的幫助點與問題點
  • 逐步發展與升級

結論

結論

開發者的未來不是被AI取代,而是從編寫代碼轉變為設計與監督AI系統的行為——這要求更深的工程品質意識,而非更少的工程專業。

完整解析

詳細

多年來軟體工程的教學與職業路徑相對穩定,但隨著AI輔助編碼的出現,這一切正在改變。講者直指核心差異:傳統軟體工程本質上是確定性的,開發者需要寫出明確指令、控制執行流程,相同輸入必然得到相同輸出,每個邊界情況、錯誤處理、驗證步驟都必須手動預先設定。然而大型語言模型的出現引入了本質不同的東西——這些系統不僅能執行邏輯,更能理解目標。結合記憶、工具使用、規劃與反饋循環,就形成了真正的AI智能體。

這意味著工程投入方向的改變:傳統軟體工程是開發者編寫行為,智能體工程是開發者塑造行為。為了理清這個轉變的全貌,講者提出了一個有用的視角——AI輔助編碼並非非黑即白的選擇,而是一個漸進的光譜。光譜的一端是傳統軟體工程,開發者完全掌控;沿著光譜前進,首先到達AI輔助編程,工具可以自動補全代碼或生成代碼片段,但開發者仍主導整體實現;再往前是氛圍編碼,開發者用自然語言描述意圖,迭代塑造結果而非逐行手寫;然後是主動編碼,系統可自主規劃、調用工具、執行代碼並自我除錯;最後是智能體工程,工程師不只是建造軟體,而是設計整個環境讓自主系統能在約束下進行推理、協調與動態適應。

然而這並非簡單的線性替代,而是抽象層級的逐漸提升。團隊通常先用氛圍編碼快速原型,隨著風險與複雜性增加逐步進化。關鍵認知是,這種轉變並未移除人類,反而改變了人類的角色——從親自執行每個任務轉向統籌系統。最大的誤解是認為智能體系統會消除工程專業的需求,但事實相反。隨著系統自主性增加,人類監督的價值反而上升,因為開發者現在必須確保機率工作流程的可靠性。

這也解釋了為何挑戰的本質在改變。傳統軟體故障相對可預測,能直接追溯到某個條件或程式碼缺陷。但智能體系統可能表面正確卻做出錯誤決策,可能產生幻覺、誤解意圖、濫用工具,或生成架構不良的解決方案。因此工程瓶頸從「編寫每一行代碼」轉向「監督、約束、評估日益自主的系統」。這也警示了氛圍編碼的陷阱——雖然適合快速實驗,但若缺乏嚴格工程規範,容易積累技術債,最終變得難以維護。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。