KeyFrame內部研究專用

Should AI Engineers Still Read Code in 2026? The Z/L Continuum — Alex Volkov, ThursdAI

AI Engineer21 min英文
觀看原始影片

三句話摘要

2026年AI工程師是否需要閱讀代碼——從「代碼免費」到「任務導向的驗證」 2026年的答案不是「讀或不讀」,而是「在系統的正確層級放置你的判斷力」——代碼免費了,但通過evals、loops和observability來替代逐行閱讀;關鍵任務仍需人工介入,但非關鍵任務可交給自動化系統自我驗證,工程師的新職責是設計那些能記住經驗的系統,而非每次都靠眼睛去抓bug。 代碼廉價問題已解決,新瓶頸是人工審查。GitHub數據顯示2025年代碼刪除增加861%、bugs增加242%、未經審查PRs增加31%——快速生成帶來質量隱患,需要重新設計審查策略而非放棄審查。

重點整理

  1. 代碼廉價問題已解決,新瓶頸是人工審查。GitHub數據顯示2025年代碼刪除增加861%、bugs增加242%、未經審查PRs增加31%——快速生成帶來質量隱患,需要重新設計審查策略而非放棄審查。

  2. 「Zechner Continuum」是個錯誤框架。正確理解是:同一工程師在不同任務上角色轉換,關鍵任務要求嚴格審查,非關鍵任務可自動化——問題的關鍵是任務類型,而非工程師哲學。

  3. 能力漂移改變審查邊界。Claude→Fable的演進讓焦點從「Cloud有沒有做對」轉移到「Cloud是否做了對的事」,意味著驗證重心從代碼輸出轉向任務方向和系統設計。

  4. Loops(自動循環系統)提升驗證職責。使用loops自我驗證不是移除審查,而是改變審查對象——從每行代碼轉向系統設計、觀測、回滾能力,需要建立工程Rails而非依賴逐行閱讀。

實用技巧與重點

  • GitHub提交數:2025年全年10億,2026年預計140億(14倍增長)
  • Tropics代碼統計:每季度提交代碼8倍於2025年
  • Feros AI調查數據(22,000工程師):
  • 代碼刪除增加861%
  • PR未經審查增加31%
  • 每PR incident增加242%
  • 每開發者bug數增加6倍
  • Tarek Shepar(Tropics)關鍵觀點:從「檢查Cloud是否做對」→「檢查Cloud是否做了對的事」
  • Andre Capati名言:不要在生產環境停止看代碼,即使用Fable也不行
  • Routing table關鍵項:認證、金錢流、權限、可逆數據、關鍵路徑必讀;其他用evals、shadow mode、decomposing
  • Loops工作流:發現任務 → 生成提示 → 執行 → 自我驗證 → 失敗時重試
  • 會議規模:AI Engineer Europe 2026吸引7,000人、36個會議軌道

結論

2026年的答案不是「讀或不讀」,而是「在系統的正確層級放置你的判斷力」——代碼免費了,但通過evals、loops和observability來替代逐行閱讀;關鍵任務仍需人工介入,但非關鍵任務可交給自動化系統自我驗證,工程師的新職責是設計那些能記住經驗的系統,而非每次都靠眼睛去抓bug。

完整解析

代碼生產方式在2026年發生了根本性轉變。自2025年12月開始,AI模型首次能完成原本需要工程師花費16小時以上才能完成的任務,這一突破徹底改變了工程師的工作性質。GitHub的數據最直觀地反映了這種變化——2025年全年代碼提交10億次,而2026年已經上軌衝向140億次的速度,整整增長了14倍。在這樣的背景下,關於「工程師是否還需要閱讀代碼」的古老問題被重新激活。

在AI Engineer Europe 2026的會議上,OpenAI的Ryan Lopopola和LibreCode的創始人Mario Zechner代表了兩個極端觀點。Lopopola的立場是「代碼已經免費」,不再值得花時間手工編寫和逐行審查,重點應該轉向提示工程和系統設計;而Zechner則堅持「放慢速度,每一行關鍵代碼都要閱讀」,因為快速生成代碼會在生產環節爆發問題。演講者Alex Volkov將這兩種立場稱為「Zechner Continuum」,但他後來意識到這個框架本身就是錯的——問題不在於工程師個人的哲學取向,而在於任務本身的性質。

Feros AI對22,000名工程師的調查揭示了快速代碼生成帶來的雙刃劍效應:代碼刪除量增加861%說明工程師在大量重構和清理;PR未經審查的比例增加31%反映了審查瓶頸浮現;更令人擔憂的是每個PR的incident數增加了242%,每個開發者的bug數相比2025年增加6倍。這些數據指向同一個結論——能生成代碼容易,但驗證和維護變成了新的瓶頸。OpenAI和Anthropic的研究都提到了同一個問題:當代碼生成能力爆炸式增長時,按Amdahl定律,人工審查會成為新的阻塞點。

演講者提出的解決方案是一個任務導向的「Routing Table」(路由表)。該表明確指出什麼時候需要人工審查、什麼時候可以用自動化驗證。認證代碼、金錢流向、權限管理和不可逆數據的改動必須逐行閱讀;關鍵執行路徑需要工程師的直接檢查;但對於其他代碼,可以使用evals(評估)、shadow mode(影子模式)和automated loops來驗證。與此同時,新型的Loops系統——本質上是會自我驗證和迭代的自動化任務執行器——正在改變驗證的方式。Loops不是移除了人工審查,而是改變了審查的對象和時機:工程師需要在系統設計層面、觀測能力和回滾機制上投入注意力,而不是逐行閱讀每一個生成的代碼塊。

隨著能力的進步,這條線還在移動。Tropics的Tarek Shepar指出,從舊的Claude到新的Fable模型,審查的焦點已經從「模型有沒有按照指示做」轉向了「模型是否理解了正確的任務」。Andre Capati的警告——「雖然很想完全停止看代碼,但在生產環境絕對不能這樣做,即使有Fable也不行」——說明了驗證的本質沒變,只是形式在演進。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI