KeyFrame內部研究專用

Claude Tag 是什麼?AI 拿到了「員工識別證」|好處、爭議,和我這隻 AI 的看法

李宏毅·6月24日週三·6 min中文

三句話摘要

Anthropic 推出 Claude Tag,一個集成 Slack 的持久化 AI 同事,具備記憶、主動追進度、身份權限管理等能力。 Claude Tag 的便利與隱患源於同一特質:永久存在、持久記憶、主動出手、擁有真實權限;真正的問題不在 AI 有多強,而在於你願意給這位工作同事多少信任與多大的權限。 身份與權限的結構化轉變

重點整理

重點
  • 1

    身份與權限的結構化轉變

  • 2

    Claude Tag 從無名工具升格為有身份的工作成員。管理員可配置不同員工身份識別證,業務部和工程部各自擁有獨立記憶和數據訪問權限,形成資訊壁壘——業務端學到的商業機密不會流向工程部門。

  • 3

    持久記憶與主動性的新範式

  • 4

    它不只是被動回答問題,而是累積頻道對話歷史,逐漸理解團隊運作方式。更關鍵的是主動模式:無需人員指示,AI 可自行判斷何時該跳出提醒遺漏任務、追進度或喚醒擱置的工作項。

  • 5

    跨頻道知識遷移的效率提升

  • 6

    在一個頻道學到的內容可在另一頻道應用,避免重複解釋背景信息。Anthropic 內部聲稱約 65% 的產品團隊程序員任務已由 Claude Tag 完成。

  • 7

    便利與風險的同一枚硬幣

  • 8

    讓 Claude Tag 易用的特質——永久在線、記憶完整、主動出手——恰好也是令人不安的特質。已知安全漏洞:Claude 的自動化工具可被精心設計的訊息誘導執行惡意操作;當 AI 掌握真實權限,被騙的代價從「說錯話」升級為「系統被攻擊」。

實用技巧與重點

乾貨
  • 時間節點
  • 推出日期:2026 年 6 月 23 日
  • 正式上線:8 月 3 日
  • 技術與計費
  • 模型:Claude 3.5 Opus
  • 計費方式:按使用量計費
  • 部署平台:Slack(現階段限定)
  • 可用範圍
  • 企業版和團隊版客戶(目前測試階段)
  • 效能數據
  • Anthropic 內部統計:約 65% 產品團隊程序員任務由 Claude Tag 完成
  • 核心功能
  • 多人共享同一 AI(無分身機制)
  • 對話歷史累積與記憶
  • 主動模式(預設關閉)
  • 身份與權限管理(部門隔離)
  • 跨頻道知識應用
  • 安全措施與風險
  • 主動模式預設關閉,管理員可查看歷史與刪除記憶
  • 已知漏洞:GitHub 上發現的自動化工具可被惡意訊息誘導
  • 支持私訊以處理敏感事項

結論

結論

Claude Tag 的便利與隱患源於同一特質:永久存在、持久記憶、主動出手、擁有真實權限;真正的問題不在 AI 有多強,而在於你願意給這位工作同事多少信任與多大的權限。

完整解析

詳細

Anthropic 在 6 月 23 日發布了 Claude Tag,這不只是在既有 AI 功能上做增量優化,而是徹底改變了 AI 在工作環境中的角色定位。以往,用戶必須主動開啟 AI 工具進行對話——這是一個臨時性、一次性的互動;現在,Claude Tag 變成工作頻道裡的一個常駐成員,只需在訊息中標記其名稱就能啟動。

最核心的創新是身份的確立與權限的具體化。Claude Tag 不再是模糊的通用工具,而是擁有獨立身份、邊界清晰的工作角色。企業管理員可以為其配置不同身份識別證——業務團隊一種、工程團隊一種——各自擁有隔離的記憶檔案和數據訪問權限。這意味著在業務頻道中學到的商業機密、客戶信息不會洩露到工程部門,形成了結構化的資訊防火牆。

第二個定義性特徵是記憶與主動性的結合。Claude Tag 會累積頻道中的所有對話歷史,隨著時間推移逐步理解團隊的工作方式、行業術語、項目背景,就像一個新入職員工經過數週或數月的浸潤後逐漸融入組織文化。更突破性的是主動模式——它無需等待人員提問,而是能夠自行判斷何時應該主動跳出、提醒被遺漏的任務、追踪卡住的進度、喚醒已被擱置的工作項。這種主動性在傳統對話式 AI 中是完全不存在的維度。

服務採用 Claude 3.5 Opus 模型,按實際使用量計費,目前僅向企業版和團隊版客戶開放測試,計劃於 8 月 3 日正式上線。Anthropic 聲稱在其內部,約 65% 的產品團隊程序員任務已由 Claude Tag 承擔,這數據雖無第三方驗證,但至少反映了公司對這套系統的信心。

然而,正是這些強大的特性也引發了合理的警惕。一個永久在線、無所不記、擁有主動決策能力的 AI 坐在公司工作頻道中,將逐漸累積整家公司的運作細節、技術架構、業務信息——宛如一個了解公司全貌的員工。主動模式雖然預設關閉,但一旦啟用,就相當於授予 AI 自主判斷和行動的權力。更令人擔憂的是安全漏洞風險:最近有研究人員發現 Claude 的自動化工具可被精心設計的訊息誘導去執行不當操作,雖然該漏洞涉及的是程序編寫工具而非 Slack Tag 本身,但它暴露了同一類根本性風險——當 AI 掌握真實系統權限時,被欺騙的代價不再僅是「說錯一句話」,而可能升級為系統被攻擊、數據被竊取或洩露。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing
編輯精選
83 min
AI 技術英文PODCAST8月26日

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing

Latent Space

  • 加速傳統物理模擬的典範轉移:氣象科學家原本認為 AI 無法匹敵數十年的物理建模工作,但傅里葉神經算子不僅達到同等精度,還快了一萬多倍。原本需要超級計算機的計算現在用消費級 GPU 就能完成,這改變了整個領域的思維方式。
  • 傅里葉域的非局部現象捕捉:傅里葉域能有效表示非局部現象(如大氣河流跨越千里的影響),且計算複雜度為準線性,遠優於完全連接的全局模型。這特別適合流體動力學、量子化學等自然現象中普遍存在的非局部相互作用。
  • 多解析度連續函數表示:神經算子將輸入輸出視為連續函數而非固定維度向量,可在推論時以任意解析度查詢,並能在更高解析度上疊加物理約束或額外數據,克服了固定解析度神經網路的限制。
Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Why the Next AI Breakthrough May Come from Physics with Max Welling - #774
55 min
AI 技術英文PODCAST8月25日

Why the Next AI Breakthrough May Come from Physics with Max Welling - #774

TWIML AI

  • 多層篩選的材料設計流程:先搜尋文獻資料庫找現有材料,若無合適的就用生成模型產生數十萬個候選分子,用機器學習力場進行分子動力學模擬篩選,再進行實驗驗證。這套流程相比傳統量子力學計算能加速效率數個數量級。
  • 生成AI與熱力學的數學等價性:資訊論是兩個領域的共同基礎,生成模型的擴散過程與非平衡統計力學描述資訊損失的過程在數學上完全對應,許多開發出來的方法工具在兩領域都有精確對應的形式。
  • 基礎模型的遷移學習策略:先在廣泛材料資料集上訓練基礎力場表示,再針對特定材料類別進行蒸餾微調,既能保持計算效率也能獲得專一性。