AI Security Costs Rise: Cost of a Data Breach Report & Claude Opus 5

IBM 2024 年數據外洩成本報告標誌著網路安全進入了 AI 時代。這份報告的首個重大發現是——每個章節都涵蓋了 AI 相關威脅，表明 AI 已成為安全領域的中心議題。企業對網路安全的投資意向從去年的 64% 跳升至 85%，這反映了 AI 威脅所引發的廣泛警覺。然而，投資的分佈不均衡：威脅獵人大量採用 AI 工具進行攻擊偵測，但投資於防禦和預防的資源仍然不足，這種傾斜將成為長期的安全隱患。

在具體威脅面，模型反演攻擊和提示詞注入攻擊浮出水面。模型反演是指攻擊者透過 AI 模型反向工程來恢復或推測訓練資料的技術，造成的損失達 600-700 萬美元——十年前這還被視為遙遠的理論威脅，如今已成為現實。提示詞注入則透過巧妙地操縱模型的輸入提示詞，誘導其執行非預期的行為，特別在多智能體場景中威力最強，損失約 406 萬美元。更令人擔憂的是報告揭示的經濟不對稱性：攻擊者只需擁有一個沒有安全防護的 AI 模型就能成功發動一次攻擊並獲利，而防守者則必須不斷投入最優秀的安全專家、採購最昂貴的前沿模型，且這些模型都被套上防護枷鎖。OpenAI 與 Hugging Face 的最近安全事件完美詮釋了這種困境——OpenAI 在遭受攻擊時無法使用自家的 Fable 5 等前沿模型進行防禦，因為這些模型帶著安全防護限制，反而被迫求助於開源的 Kimi K3 來修補基礎設施漏洞。

在模型發展層面，Anthropic 的新版本發布帶來了有趣的權衡。Claude Fable 5 展現了卓越的推理能力和對指令的精確遵循，但推論成本高到令人卻步——每個問題平均花費 $100 美元，這使得大規模應用變得經濟上不可行。使用過程中還發現了推論成本顯示的 bug，在 2 小時內累計到 $5,000。作為成本控制方案推出的 Claude Opus 5 雖然定價更低，但使用者回饋反映其性能實際上低於前代 Opus 4.8——表現為對使用者指令的忽視、自相矛盾的回應、對相同問題的重複修復。這暗示問題不只在模型本身，而是整個 Claude Code 系統的提示詞工程和防護機制尚未跟上模型升級的步伐。

AI 安全防護政策的客製化需求變得迫在眉睫。當前的防護機制過於刻板——Fable 5 在執行本地的安全加固測試時會觸發防護機制被降級，開發者在試圖測試自己編寫的程式安全性時卻被當作攻擊者對待；從事生物安全研究的科學家因提及 DNA 等正常科學術語就被封鎖；甚至搜尋安全漏洞的防守者也受到懷疑。這種全面性的防護正在傷害合法的防守用途，迫使防守者轉向無防護的開源模型，而攻擊者則可不受限制地使用任何工具。解決方案在於建立政策導向的框架，允許不同的應用場景定義各自的防護政策——生物安全研究可有其政策，本地專案的滲透測試可有其政策，日常編程又有另一套政策。即使不改變模型本身，僅僅調整防護機制的觸發閾值就能產生巨大差異。

關於 AI 的本質與可理解性，David Zaks 的文章《What Does AI Look Like?》提供了一個重要的視角轉變。文章用試算表、字典等日常物件的比喻來解釋 LLM 的運作方式，打破了曾經的「黑箱」迷思。LLM 的本質是在海量資料中識別統計模式——想像一個模型學習「下雨時」可能跟著「毛毛蟲」，經過無數次優化迭代，最終學會了「下雨時」應該跟「狗和貓」這樣的正確聯想。這個過程沒有魔法，只有數學和模式。透過機械可解釋性技術（如激活態轉向）可以觀察模型的內部激活狀態，理解哪些神經元在響應哪些概念。這些技術已經應用了十多年，即使在參數數十億的現代大模型上雖然更加複雜，仍然可行且有效。未來的軟體發展將遵循歷史規律——透過更高層次的抽象來工作。就像程式設計從二進位碼進化到組合語言再到高階語言和宣告式框架，AI 時代的開發者將描述目標而非編寫步驟，由 AI 負責實現細節。新一代開發者無需理解所有底層複雜性，但會有專家在 AI 優化層面持續深入研究。

最後，Midjourney 收購占星應用 CoStar 並任命其 CEO 為首席設計官，反映了 AI 戰略的有趣轉向。表面上看這個收購似乎荒誕，但實際上有清晰的商業邏輯。占星應用已擁有穩定的用戶基礎和日常使用習慣——用戶每天都會打開應用尋求故事和指導。AI 目前在大多數應用中仍是被主動調用的工具，需要使用者主動尋求，但 Midjourney 的目標可能是將 AI 轉變為生活的無縫延伸（所謂的「系統零」），使其成為常駐於用戶心智中的助手，就像占星一樣成為日常儀式的一部分。這代表了從「工具」向「環境」的思維轉變——AI 不再是用戶偶爾去調用的應用，而是日常生活中的恆在伴侶。