How AI Agents Work: Prompt, Context, Harness & Loop Explained

講者從Netflix影片分析案例出發，展示AI工程如何層層遞進提升系統能力。

第一層：提示工程 —— 改進「怎麼問」。當籠統地問「Netflix上什麼讓節目成功」時，模型只吐出通用廢話：流行類型、收視趨勢。加上三個要素就逆轉局面——定義角色(「你是數據分析師」)、明確問題(「為什麼電視劇比電影更容易續約」)、指定格式(「給三個假設和驗證指標」)。模型瞬間產出結構化、可測試的回答。提示工程就是改變措辭，戲劇性改善結果。

第二層：上下文工程 —— 「讓模型知道什麼」而非「怎麼問」。講者打開代碼庫模式、餵入筆記本和CSV檔案後，模型用真實欄位名稱、處理實際邊界情況、遵循項目編碼風格。但這裡有個反直覺的陷阱叫「上下文腐爛」：Chroma Research測試了18個最先進模型，全部都隨著輸入長度增加而性能下降。一個200k token窗口的模型在50k時已經開始失效。因此關鍵不是「更多上下文」而是「正確的上下文」——Andre Carpathy定義為「用恰好足夠的信息填滿上下文窗口來完成下一步」。

第三層：管道工程 —— 真正的飛躍。前兩層都還是「用戶→模型→等待輸出」的被動互動。管道工程給模型工具(tool calls)、護欄(guardrails)、反饋迴圈，把它從「回答機器」變成「工作代理人」。講者丟一句話給Cloud Agent：「執行Netflix分析筆記本，修復任何失敗的儲存格」。模型自動讀筆記本→執行→看到錯誤→編輯儲存格→重新執行驗證——全程無需用戶碰滑鼠，這才是管道工程。不同的harness有不同的策略：Cloud Agent自動處理上下文壓縮、記憶體管理、工具編排，方便快速；Pi則提供四個核心工具、完全透明，讓你掌控每一步。

第四層：迴圈工程 —— 設計自動觸發系統。用`/loop every 50 minutes if dataset changed then rerun notebook`讓Netflix分析每小時自動檢查新資料、更新報告，不用手動按開始鍵。更強大的是`/goal`：指定「直到筆記本無錯誤且日誌有今日紀錄」，模型持續迭代直到達成。系統巧妙地用獨立Evaluator驗證目標(避免worker自欺欺人)，形成observe→decide→act→verify→repeat的閉迴圈。但迴圈有三個風險：token成本複合增長(必須設硬預算和迭代上限)、模糊目標會無限迴圈(「改進代碼」太模糊，必須能二元驗證)、不是所有任務都適合(只用於真正重複且完成條件清晰的工作)。

這四層層層堆疊，不是替代關係。迴圈裡仍有管道、管道裡仍有上下文、上下文裡仍有精心措辭的提示。但槓桿點逐步升級，從「我如何措辭」進化到「系統自動運作」。