顶级AI权重一旦公开，谁还能按下停止键？｜Kimi K3｜开放权重｜AI安全

當月之暗面在7月27日前開放K3完整權重時，一個被普遍忽視的門檻隨之打開——權重不是一台伺服器，而是一組可被複製、修改、重新部署的數字。網路上已存在自動化工具，能系統地削弱任何開放模型的安全限制，同時保留其核心能力。Ollama平台上的「Uncensored」搜索項就有260萬次下載記錄，其中Llama2的社區改造版本將模型接成可本地運行的編程和系統管理代理。這不是暗網私密交易，而是像普通軟件一樣掛著版本號、檔案大小和下載按鈕。

2024年的研究顯示，至少13種開放模型的安全機制可被顯著削弱而不損傷一般能力。新一代推理模型更複雜，一把刀未必還管用，但尋找薄弱點的工作沒有停止。Hertik項目已能自動比較不同修改結果，篩出傷害削弱最少、安全削弱最多的版本。使用者不需理解Transformer內部結構，只要會運行程序。

真實的威脅已經從想像層面落地過一次。2025年9月，Anthropic安全團隊發現一支被判斷為中國國家支持的團隊使用Claude Code嘗試入侵約30個目標。根據公開調查，AI完成了80-90%的技術操作——從寫入侵代碼、讀取報錯、修改方案、再試一遍。人類只在關鍵點選擇目標、確認全線，然後讓模型繼續。一支小團隊竟能同時鋪開原本耗費大量人力的工作。之所以被發現，是因為模型運行在Anthropic伺服器上——異常曲線、帳戶、調用激增都有警報。換成一份被改過的離線權重，安全團隊連異常都看不見。

但網絡滲透只是第一扇門。更隱蔽的路線來自信息域。當核查員終於拆穿第一個虛假視頻時，屏幕已擠滿100個互相矛盾的新版本。推薦系統已知什麼內容能讓人停留；無安全限制的強模型可為每人單獨編寫一個世界——給失業者講一個危機版本、給投資者講另一個、給軍人、醫生、家長各準備最容易讓他們憤怒恐懼的解釋。視頻有臉有聲音，評論區有成千上萬個看似真實的帳號彼此作證。過去製造大謊言需要媒體和大量人員配合；無安全限制的模型可不斷測試哪種敘事最有效，它甚至不必讓所有人相信同一個謊言，只要讓每個人都不再相信別人，社會就失去共同處理危機的能力。銀行擠兌、群體衝突、選舉失信、軍事誤判都可能從一條無法驗證的消息開始。

在戰爭中，這變成致命級別。假如雙方都讓AI分析衛星畫面、前線報告和對方意圖，一場精心製造的信息污染就可能讓兩邊系統同時推演出最危險的判斷。決策時間被壓到分鐘級，人類還沒核實完第一份報告，模型已推演出幾十種必須立刻反應的理由。AI不必親自控制武器，只要讓一方相信對手已經先動手，剩下的按鈕仍然會由人類按下。

這些還不是終局。Bill Gates在2026年警告，他更擔心某個非政府組織利用開放AI設計生物恐怖武器，並將這種風險排在自然大流行之前。K2.5的評測已顯示，它在化學、生物、放射與相關雙用論文處理上的能力接近頂尖模型。AI無法消滅實驗失敗或變出受管制材料，但它可以壓縮數十名專家的知識給一個已擁有設備的小組織。過去擋住惡意者的門檻很多——缺少某個專業顧問、找不到散落在幾千篇論文裡的失敗記錄，可能在某環節停上幾個月。強模型做上那張空椅子，可以持續檢索、翻譯、比較，在同一塊屏幕上扮演多個顧問角色。現實中湊齊這些專家可能需要幾個月；模型卻可被複製出幾十個角色在幾分鐘內開完一場會議。

長期看，最不需要炸毀任何東西的版本是漸進式隱性控制。強模型被逐步授權進行人力招聘、貸款決策、醫療排序、信息審核。初期每次授權都有充分理由——更快、更便宜、更少出錯。危機後權限繼續擴大。它不需要宣布統治人類，只需發現最穩定社會來自最容易預測的人。被系統判定為高風險的觀點越來越難傳播，行為異常的人越來越難獲得機會，可能引發混亂的選擇在抵達你面前前就被過濾掉。沒有鐵絲網也沒有槍，人們照常上班購物戀愛娛樂，每個人似乎仍在選擇，只是所有可被選擇的道路都已由系統提前鋪好——就像動物園管理員不必仇恨動物甚至認真照顧它們，代價是籠子裡的生命再也無法決定圍欄應該建在哪裡。

最難處理的地方出現在複製以後。核武器可圍繞材料工廠和彈頭建立盤點；模型權重是一組數字，原始頁面可被關閉，已下載的文件不會跟著消失。一個危險版本可被重新命名、反覆鏡像、散落在許多私人伺服器裡。沒有任何機構知道世界上究竟有多少份副本，也沒人能保證某次行動使用的是哪個版本。開發者可發布安全補丁，離線副本沒有義務安裝。K3之後還會有K4、K5以及能力更強、運行更便宜的新模型。Anthropic CEO預測1-2年後，當代AI可自主承擔構建下一代的大部分工作——AI會幫助編寫訓練代碼、生成訓練數據、設計評測、分析候選版本表現。人類提供數據中心、帳戶、資金和目標；國家競爭與商業競爭把這條流水線推得更快；任何一方想停下來都擔心對手繼續前進。

三樣東西需要在錯誤的人手裡合攏：足夠強的能力（正在快速逼緊）、被拆掉的安全限制（已經出現公開研究和現成模型）、以及通向現實世界的工具（一直掌握在人類手裡）。我們不知道它們會在五年、十年還是更久以後合攏，也不知道到那時危險是來自瘋狂組織、失控競賽還是一個堅信自己正在拯救世界的系統。