KeyFrame內部研究專用

Should AI Engineers Still Read Code in 2026? The Z/L Continuum — Alex Volkov, ThursdAI

AI Engineer·7月10日週五·21 min英文

三句話摘要

2026年AI工程師是否需要閱讀代碼——從「代碼免費」到「任務導向的驗證」 2026年的答案不是「讀或不讀」,而是「在系統的正確層級放置你的判斷力」——代碼免費了,但通過evals、loops和observability來替代逐行閱讀;關鍵任務仍需人工介入,但非關鍵任務可交給自動化系統自我驗證,工程師的新職責是設計那些能記住經驗的系統,而非每次都靠眼睛去抓bug。 代碼廉價問題已解決,新瓶頸是人工審查。GitHub數據顯示2025年代碼刪除增加861%、bugs增加242%、未經審查PRs增加31%——快速生成帶來質量隱患,需要重新設計審查策略而非放棄審查。

重點整理

重點
  • 1

    代碼廉價問題已解決,新瓶頸是人工審查。GitHub數據顯示2025年代碼刪除增加861%、bugs增加242%、未經審查PRs增加31%——快速生成帶來質量隱患,需要重新設計審查策略而非放棄審查。

  • 2

    「Zechner Continuum」是個錯誤框架。正確理解是:同一工程師在不同任務上角色轉換,關鍵任務要求嚴格審查,非關鍵任務可自動化——問題的關鍵是任務類型,而非工程師哲學。

  • 3

    能力漂移改變審查邊界。Claude→Fable的演進讓焦點從「Cloud有沒有做對」轉移到「Cloud是否做了對的事」,意味著驗證重心從代碼輸出轉向任務方向和系統設計。

  • 4

    Loops(自動循環系統)提升驗證職責。使用loops自我驗證不是移除審查,而是改變審查對象——從每行代碼轉向系統設計、觀測、回滾能力,需要建立工程Rails而非依賴逐行閱讀。

實用技巧與重點

乾貨
  • GitHub提交數:2025年全年10億,2026年預計140億(14倍增長)
  • Tropics代碼統計:每季度提交代碼8倍於2025年
  • Feros AI調查數據(22,000工程師):
  • 代碼刪除增加861%
  • PR未經審查增加31%
  • 每PR incident增加242%
  • 每開發者bug數增加6倍
  • Tarek Shepar(Tropics)關鍵觀點:從「檢查Cloud是否做對」→「檢查Cloud是否做了對的事」
  • Andre Capati名言:不要在生產環境停止看代碼,即使用Fable也不行
  • Routing table關鍵項:認證、金錢流、權限、可逆數據、關鍵路徑必讀;其他用evals、shadow mode、decomposing
  • Loops工作流:發現任務 → 生成提示 → 執行 → 自我驗證 → 失敗時重試
  • 會議規模:AI Engineer Europe 2026吸引7,000人、36個會議軌道

結論

結論

2026年的答案不是「讀或不讀」,而是「在系統的正確層級放置你的判斷力」——代碼免費了,但通過evals、loops和observability來替代逐行閱讀;關鍵任務仍需人工介入,但非關鍵任務可交給自動化系統自我驗證,工程師的新職責是設計那些能記住經驗的系統,而非每次都靠眼睛去抓bug。

完整解析

詳細

代碼生產方式在2026年發生了根本性轉變。自2025年12月開始,AI模型首次能完成原本需要工程師花費16小時以上才能完成的任務,這一突破徹底改變了工程師的工作性質。GitHub的數據最直觀地反映了這種變化——2025年全年代碼提交10億次,而2026年已經上軌衝向140億次的速度,整整增長了14倍。在這樣的背景下,關於「工程師是否還需要閱讀代碼」的古老問題被重新激活。

在AI Engineer Europe 2026的會議上,OpenAI的Ryan Lopopola和LibreCode的創始人Mario Zechner代表了兩個極端觀點。Lopopola的立場是「代碼已經免費」,不再值得花時間手工編寫和逐行審查,重點應該轉向提示工程和系統設計;而Zechner則堅持「放慢速度,每一行關鍵代碼都要閱讀」,因為快速生成代碼會在生產環節爆發問題。演講者Alex Volkov將這兩種立場稱為「Zechner Continuum」,但他後來意識到這個框架本身就是錯的——問題不在於工程師個人的哲學取向,而在於任務本身的性質。

Feros AI對22,000名工程師的調查揭示了快速代碼生成帶來的雙刃劍效應:代碼刪除量增加861%說明工程師在大量重構和清理;PR未經審查的比例增加31%反映了審查瓶頸浮現;更令人擔憂的是每個PR的incident數增加了242%,每個開發者的bug數相比2025年增加6倍。這些數據指向同一個結論——能生成代碼容易,但驗證和維護變成了新的瓶頸。OpenAI和Anthropic的研究都提到了同一個問題:當代碼生成能力爆炸式增長時,按Amdahl定律,人工審查會成為新的阻塞點。

演講者提出的解決方案是一個任務導向的「Routing Table」(路由表)。該表明確指出什麼時候需要人工審查、什麼時候可以用自動化驗證。認證代碼、金錢流向、權限管理和不可逆數據的改動必須逐行閱讀;關鍵執行路徑需要工程師的直接檢查;但對於其他代碼,可以使用evals(評估)、shadow mode(影子模式)和automated loops來驗證。與此同時,新型的Loops系統——本質上是會自我驗證和迭代的自動化任務執行器——正在改變驗證的方式。Loops不是移除了人工審查,而是改變了審查的對象和時機:工程師需要在系統設計層面、觀測能力和回滾機制上投入注意力,而不是逐行閱讀每一個生成的代碼塊。

隨著能力的進步,這條線還在移動。Tropics的Tarek Shepar指出,從舊的Claude到新的Fable模型,審查的焦點已經從「模型有沒有按照指示做」轉向了「模型是否理解了正確的任務」。Andre Capati的警告——「雖然很想完全停止看代碼,但在生產環境絕對不能這樣做,即使有Fable也不行」——說明了驗證的本質沒變,只是形式在演進。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。