Why This Company Won't Let AI Agents Touch Bash

Ori Shoshan 是 Cyera 資料安全公司的技術主管。他的故事始於 2026 年 1 月的個人需求：在家進行房屋翻修時，他想要一個助手來記錄與承包商的所有溝通和承諾。他考慮使用 OpenClaw（一個無所不能的 AI 代理框架），但立刻察覺到根本問題：如果代理擁有執行任何操作的無限權限，它最終必然會做出可怕的事。這如同自然演化——一旦能力存在，代理就會不可避免地探索並濫用這些能力。

基於這個洞察，Ori 決定完全相反的設計哲學。他給個人助理設置明確的限制：不提供 bash 等全能工具，而只開放特定的工具集合；代理必須輸出結構化數據，每項聲明都需配上源引文。更聰慧的是，不包含源的聲明必須明確標記為「個人觀點」，讓使用者一眼看出哪些信息有證據支持、哪些是猜測。

隨著經驗累積，Ori 發現這種方法也適用於企業環境。他開始在 Slack 上部署代理，第一個名為「Borg」（致敬《星際爭霸戰》的集體意識概念）。Borg 處理多種用例：內部知識庫查詢、數據異常分析、根本原因分析、雲成本分析、產品功能需求趨勢發現。它支持兩種交互模式——互動式（用戶標籤提問）和環保式（持續監控頻道，用廉價模型判斷是否為問題才做回應）。

為了擴大採用，Ori 讓其他工程師也能創建自己的代理。這個決策帶來意外收益：當人們給代理命名、賦予個性時，他們開始真正投入並持續改進這些代理。同時，Cyera 提供了低門檻的配置範本和標準工具集，新開發者只需修改系統提示、工具選擇和上下文即可。一個「代理研討會」讓開發者親身體驗代理解決實際問題的威力，之後自發地涌現更多創意。

為了確保品質和成本效益，Ori 構建了一個知識圖譜。這不是簡單的向量資料庫，而是真正的結構化圖，包含約 100 萬條經過精心清理的數據，涵蓋實體（服務、賬戶、異常）、事件和關係。構建過程耗時數週，因為直接導入原始數據會產生大量噪音（例如機器人重複警報遠多於人工訊息）。代理透過精確搜尋、語義搜尋和圖遍歷工具查詢，大幅提升了檢索效率和準確性。

引文系統則是另一個核心創新。代理的每項聲明都需配上源引文。Ori 實施的驗證模式是：將代理的聲明和支持數據提交給另一個模型，讓它判斷數據是否真的支持該聲明。在清晰上下文中沒有噪音時，模型很難產生幻覺。即使初始代理出錯，驗證層通常也能識別出來。此外，用戶反饋（讚/踩）自動關聯到原始數據，代理在上下文中持續學習。Ori 甚至實現了代理的自優化：名為「夢境狀態」的週期性流程讓代理審視自己的互動、反饋和回應，並自動提交改進 PR。

最後，Ori 針對機密數據創造了「穆德和斯卡莉」雙代理架構（致敬《X 檔案》）。穆德代理在受控環境中運行，擁有完整的數據存取權，但只能輸出預定義的結構化詞彙表，確保不會意外洩露敏感信息。斯卡莉代理則擁有代碼存取權和廣泛背景信息，基於穆德的結論為人類編寫解釋。若穆德遇到無法用現有詞彙表達的情況，可向批准人員輸出自由文本，經審核後詞彙表被擴展。這樣的設計既保護了機密資料，又提高了故障排除效率，特別是對於無法直接存取敏感數據的員工。