美国AI监管盯上GPT-5.6，真正漏洞在哪？

約六周來，美國的AI監管經歷了一個螺旋式的升級過程。從五月中旬國會議員的首次警告開始，政府先是擬定了相對強硬的審批制度，但在硅谷遊說（特別是馬斯克和扎克伯格）的壓力下有所緩和，改為自願送審。然而隨後一系列關鍵事件扭轉了這個局面：Anthropic發布被認為是最強的Fable 5後，其提示詞在兩周內洩露，進而被商務部以國家安全名義緊急下線。現在矛頭指向了OpenAI的GPT 5.6，施加了嚴格的名單審批制度。

這一系列監管的根本錯誤在於它盯住了模型本身，卻完全誤解了真正的威脅所在。Fable 5之所以強大，並非仅因為底座模型本身，而是模型配合了Anthropic內化的一整套調度系統。所謂調度系統，是決定AI何時調用什麼工具、如何規劃步驟、如何驗證結果、甚至如何回滾錯誤的完整框架。從洩露的12萬字提示詞來看，超過一半的內容都在講工具調用的時機和方法，真正講約束和性格特徵的還不到20%。

更危險的是，這套調度系統是可以被逆向工程、複製和專項調教的。講者用360作為案例說明，這家中國安全公司雖然在AI算法上可能不如OpenAI或Anthropic，但它在安全領域深耕了幾十年，掌握著海量真實安全事件數據和防守手段。如果它拿一個次級開源模型（比如Zhipu GLM 5.2），投入自己的安全數據做專項調教和強化學習，再按照洩露的提示詞設計相應的調度系統，就完全能在網絡安全領域做出不亞於甚至超過Fable 5的能力。講者用「學霸vs小鎮做題家」的比喻說明：Fable 5像真學霸，放到任何岗位都能快速上手。而次級開源模型如果專項針對某領域深度培訓，完全可以在該領域幹得漂亮。關鍵不在模型通用能力，而在有沒有那套成熟的調度系統和專業數據。

這引出了講者的第二個核心觀點：今天的安全大半靠制度撑起來，不靠技術。他舉自己在安全公司的經驗，以及Google開除GWS作者Jesting的例子。Jesting寫了一個讓Claude和其他AI工具連接Google Workspace的工具，非常受歡迎，在Hacker News冲到第一。但Google不是因為技術有問題，而是因為他沒有走法務和安全審批，還用了Google商標，於是被直接開除。講者指出，即使在技術天花板的公司（Google、NSA），安全防禦也主要靠審批流程、人事制度、規章制度這些管理手段，而不是什麼神奇的技術。

然而這套對付固定、已知威脅的制度體系，遇上能自我進化的AI調度系統就完全無效了。Mesos在測試中幾個小時就穿透NSA，說明問題根源不在單個漏洞，而在於AI能將分散、孤立的大量漏洞一個一個串起來，組合成原來沒人想到的全新攻擊路徑。更可怕的是，這個過程中還能融合社會工程學——AI最擅長的正是「一本正經地胡說八道」，它能同時進行漏洞利用和欺騙，而傳統防禦體系根本沒辦法測試社會工程學的問題。這好比人體免疫系統對付已知固定病毒，用疫苗和抗體對抗。但AI調度系統像一個會進化的超級病毒，它能觀察防禦方的應對方式，然後自動調整攻擊鏈的方向——正如遊戲「瘟疫公司」中的玩家策略，每當玩家採取防禦措施，病毒就往其他方向進化。

講者認為美國當前的限制措施徹底錯誤了。按國籍設卡和限制模型名單看似有效，實際上既無法有效防守（因為中國已有很強的模型和洩露的源代碼圖紙），又自廢武功（因為美國本來就是移民國家，優勢在於能吸引全球最聰明的人才）。他舉了歷史例子——中國古代幾千年來限制向遊牧民族出售鐵器，想防止他們製造兵器，但商人一直在偷偷運鐵，遊牧民族還是一次次入侵，甚至兩次滅國。這說明此路根本行不通。

最後，講者提出了他的答案：正確做法是「AI防AI」，開放創新而非關門設卡。與其嘗試用舊的審批和人事制度對付進化的AI威脅，不如做比對手更開放、更快速創新的一方。要用AI的進化節奏去應對進化的威脅，讓防禦方的AI調度系統24小時自動尋找漏洞、修補、進行紅隊測試，與攻擊方在同一時間表上競爭。講者強調這不是負擔，而是機會——類似於1998-2000年的「千年蟲」事件，雖然威脅本身有些誇大，但正因為這個集體認識和投入，整個IT產業借此機會完成了一次巨大升級。現在面對的威脅比千年蟲真實得多、可怕得多，但如果能把它變成「大規模投入AI安全產業」的催化劑，讓整個AI產業迎來新一輪飛躍，那麼這個看似吓人的故事就能變成一個正向的、積極的過程。

#