KeyFrame內部研究專用

🚀YC开源内部自用下一代Agent:qm智能体!彻底颠覆小龙虾和Hermes!真正企业级Agent OS!用户隔离、权限审批、安全沙箱与完整操作审计全都有!支持Pi、Codex和Claude Code

AI超元域14 min中文
觀看原始影片

三句話摘要

QM Agent 是 Y Combinator 開源的企業級 Agent 系統,首次完整解決個人、團隊、企業三層應用的安全隱私與權限隔離問題。 QM 是第一個從架構層面完整解決 Agent 安全隱私與權限隔離的企業級開源系統,終於讓個人、團隊、企業可以安心使用同一套 Agent 基礎設施。 開源 Agent 的現狀與痛點:Claude 和 HermaceAgent 因安全隱私問題被企業禁止,個人用戶無法安全地與他人共享自部署的 Agent,導致隱私泄漏與設備被入侵的風險。

重點整理

  1. 開源 Agent 的現狀與痛點:Claude 和 HermaceAgent 因安全隱私問題被企業禁止,個人用戶無法安全地與他人共享自部署的 Agent,導致隱私泄漏與設備被入侵的風險。

  2. QM 的架構優勢:不同於需要重新開發使用者系統、權限系統、資料庫的二次開發方案,QM 將配置、模型、Sandbox、外掛與部署參數與核心代碼解耦,團隊可保留定制能力同時減少上游合併衝突。

  3. 項目與用戶隔離機制:支持創建私有項目(個人專用)和共享項目(團隊協作),項目成員只能看到項目內容而無法存取其他成員的私人對話,無用戶限制。

  4. 完整的執行流程與審計:從接收層判斷來源→Harness 與模型選擇→工具調用策略判斷→沙箱執行→持久化與審計,全程流行讓 Agent 可自我進化且所有敏感操作可追蹤。

實用技巧與重點

  • Y Combinator 背景:全球最知名創業加速器,已投資超過 5,000 家公司;內部運行 50+ 個 HermaceAgent,遇到配置、資料管理、任務失敗、資源共享、大規模運維等問題後開發 QM
  • 獲得認可:開源不到一周內 GitHub Star 達 8K
  • 支持的 Agent 後端:PyAgent、OpenCode、Codex、Cloud Code(可接入開源模型)
  • 演示中使用的模型:GPT-5.6 Luna
  • 預置功能:19 個預置 Skill,可創建自訂 Skill 或安裝第三方 Skill
  • 項目管理:支持多項目、按主題創建項目、用戶邀請、郵件確認登入
  • 文件共享:項目中支持上傳文件供團隊成員查看
  • 記憶系統:自動記錄用戶習慣與事實,可修改、刪除、查看更新歷史
  • 模型參數:支持調整推理級別
  • 執行流程階段:接收層→任務判斷→模型 Harness→工具決策→沙箱執行→持久化審計

結論

QM 是第一個從架構層面完整解決 Agent 安全隱私與權限隔離的企業級開源系統,終於讓個人、團隊、企業可以安心使用同一套 Agent 基礎設施。

完整解析

近年來 Claude 和 HermaceAgent 帶起全民部署 Agent 的風潮,但這些開源 Agent 存在嚴重的安全隱私缺陷。許多企業因此禁止員工使用,個人用戶若想讓朋友家人共享自部署的 Agent,也會面臨隱私泄漏甚至設備被入侵的風險。二次開發作為解決方案也不理想——團隊需自行構建完整的使用者系統、權限系統、資料庫與管理後台,並長期維護已大幅修改的代碼,一旦上游更新就容易陷入無法升級或需重新合併改動的困境。

Y Combinator 作為全球頂級創業加速器,曾投資超 5,000 家公司。內部運行 50 多個 HermaceAgent 以自動化日常工作,卻因配置困難、資料管理混亂、任務失敗、資源共享複雜、大規模運維困難等問題深感其苦。基於這些經驗,他們開源了企業級 Agent 系統 QM,短短一周內已獲 8K Stars,代表市場對此類解決方案的迫切需求。

QM 從架構設計的第一天就認真考慮了權限隔離、資料管理、命令審批、操作審計與多人協作,而非事後補救。它可調用成熟的 Agent 後端(PyAgent、OpenCode、Codex、Cloud Code),支持個人使用、團隊協作與企業部署。核心創新在於項目與用戶隔離——用戶可創建私有項目(個人專用,他人無法存取)與共享項目(邀請團隊成員共同工作),項目成員無限制。項目內所有對話、文件與記憶對邀請的成員即時同步可見,但各自的私人項目內容仍完全隱私。此外,QM 內建完善的記憶系統,自動記錄用戶習慣與操作事實,可隨時修改查看,支持模型推理級別調整。

QM 的執行流程層層把關。用戶在 Slack 或外部 UI 發起任務後,接收層判斷訊息來源(私聊或專案);核心決定是否自動執行、限制工具調用還是需要人工審批;Harness 與模型層選擇合適後端生成回應;工具層判斷是否需調用及執行策略;最後在沙箱中安全執行,並將結果持久化與審計。這套完整流程使 QM 既能保護安全隱私,又能像 HermaceAgent 一樣通過持久化與審計實現自我進化,越用越聰明。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI