KeyFrame內部研究專用

Anthropic's CCA Exam as a Field-Guide for Agentic Engineering — Frank Coyle, UC Berkeley

AI Engineer20 min英文
觀看原始影片

三句話摘要

Claude Certified Architect 考試指南:掌握 agentic AI 設計的模式與反模式 掌握 agentic AI 的核心不是學習新概念,而是深刻理解基礎的三要素(順序、條件、循環)如何應用到多代理系統,以及避免 context 溢出、代理過度功能化和群體思維的反模式。 Loop 是 agentic AI 的基礎

重點整理

  1. Loop 是 agentic AI 的基礎

  2. Beaman Jack 在 1966 年證明 Turing 完整性只需三元素:順序執行、條件判斷、循環。在傳統編程語言戰爭中這被證實,如今在 agentic 世界重新被啟用,成為授權 agent 系統的基礎力量。

  3. Stop reason 決定程序流

  4. LLM 只是概率性的「下一個單詞預測器」,無法執行工具,只能指示參數。必須檢查 stop reason(tool_use、end_turn、max_tokens),依此決定是執行工具、檢查信心度、還是處理 token 用完的情況。

  5. 代理專一化勝過功能過載

  6. 給每個代理只 1-2 個工具、讓它只做一件事,而非把所有工具塞給它。這避免 context 溢出、提高準確性,也防止多代理協作時的「群體思維」現象。

  7. Context 隔離與緊湊化

  8. 子任務輸出應隔離在分支(context fork)內,不污染主線程,只把摘要加回。當 context 超過 15 萬 token 時,用 Anthropic 的壓縮算法緊湊化以降低成本與混亂。

實用技巧與重點

  • 考試資訊
  • 費用:$99/次,個人可每 6 個月參加一次
  • 企業可透過 Anthropic 生態系獲得
  • 五大領域
  • Agentic architecture — 27%
  • Claude Code 配置與 workflow — 20%
  • Prompt engineering、JSON 結構化輸出、工具設計、模型 context、protocol integration
  • Contact management 與 reliability
  • 六個生產場景(考試隨機選 4 個出題)
  • Customer support resolution agent
  • Code generation
  • Multi-agent research system
  • Developer productivity with code
  • Claude Code for continuous integration
  • Structured data extraction
  • Stop reason 類型
  • tool_use:執行工具
  • end_turn:任務完成
  • max_tokens:token 用完需應對
  • Claude MD 三層制
  • 頂級:整個專案
  • 中層:專案資料夾內
  • 底層:特定目錄內
  • Context fork 模式
  • 子任務在分離的 context 中執行,不污染主線程
  • 只將結果摘要加回主 context
  • Batch mode
  • 節省 50% token 成本
  • 承諾至少 24 小時後返回結果
  • Context 壓縮
  • Sam Bagua 提供自訂壓縮邏輯工具
  • 觸發條件:context 超過 150,000 token

結論

掌握 agentic AI 的核心不是學習新概念,而是深刻理解基礎的三要素(順序、條件、循環)如何應用到多代理系統,以及避免 context 溢出、代理過度功能化和群體思維的反模式。

完整解析

Frank Coyle 是 UC Berkeley 計算機科學教授,已教書超過 30 年。面對 agentic AI 時代的到來,傳統的計算機科學學位已不再是就業的魔法鑰匙。為了幫助學生適應新環境,他參與開發了 Claude Certified Architect 考試。

在計算機科學的發展史上,Beaman Jack 在 1966 年的經典定理至今仍是基礎:Turing 完整性只需要三個要素——順序執行、條件判斷和循環。當年不同程式語言為誰更強大而爭論不休,但最終這三個要素被證明是既充分又必要。如今在 agentic AI 的新時代,專家們已經發現了循環的新力量。Boris Churny 說他不寫代碼,他的工作是寫 loop;Peter Steinberger 也說他已經不寫代碼了,只設計 loop 來指導 agent。

Claude Certified Architect 考試於 3 月推出,包含五個主要領域,其中 agentic 架構占 27%、Claude Code 配置占 20%,其他還包括 prompt 工程、工具設計、聯繫管理與可靠性。考試不是單純的選擇題,而是基於六個實際生產場景,考試時隨機選擇其中四個,所有題目都圍繞這四個場景展開。

最關鍵的概念是理解「stop reason」。LLM 本質上只是一個概率性的下一個單詞預測器,它無法執行任何工具,只能告訴你應該如何設置參數讓你的代碼執行。在 customer support resolution 的場景中,你會進入一個 while 迴圈:首先調用模型,傳入訊息和可用工具;LLM 會返回一個 stop reason。如果是「tool_use」,表示 LLM 已經設置好參數要執行工具,你就執行它並將結果回傳給 LLM;如果是「end_turn」,表示任務完成,此時可以檢查信心度決定是呈現結果給用戶還是升級給人工;如果是「max_tokens」,表示 context 已滿 token 已用完,你需要採取應對措施。

另一個重要的反模式是「代理功能過載」。講者用雇傭木工的比喻說明:如果一個木工帶著所有可能的工具(木工工具、水管工具、電工工具)來,他可能根本不是專家。正確做法是讓每個代理只擁有一到兩個工具,專注做一件事。這還解決了一個隱藏的問題:當多個代理共享大量 context 時,它們會陷入「群體思維」,所有代理傾向於同樣的想法和結論。通過只給每個代理完成任務所需的資訊(比如在評論代理的情況下,只給 claim 和 evidence,而不是整個思考過程),可以保持代理的獨立性。

在開發生產力場景中,最重要的反模式是讓子任務的完整輸出傾倒到主線程中。正確做法是使用「context fork」——子任務在一個隔離的分支中執行,它所產生的所有思考和 token 都不會污染主 context。然後只把最終的摘要結果加回主 context。當 context 增長到 150,000 token 以上時,可以使用 Anthropic 提供的 context 壓縮算法來緊湊化,這不僅降低成本,也減少了 LLM 的混亂。

對於 CI/CD pipeline,絕不應該使用交互模式,因為這會導致 Claude 停下來請求權限。另外,Batch mode 是一個經濟的選項:以 50% 更低的 token 成本執行工作,代價只是至少 24 小時的等待。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI