Srsly Risky Biz: Knives are out for open-weight AI models

播客從美中AI競爭的最新進展開始。白宮科技政策辦公室指控中國AI實驗室月光AI通過蒸餾技術從Anthropic的Fable 5模型竊取知識產權，據此推出了Kimi K3。美國財政部隨即警告將實施制裁，並可能將相關公司列入實體名單。這場戰略升級反映出美國政府從被動監觀轉向主動制裁的態度轉變。

蒸餾本質上是不可防止的技術現象。由於大語言模型就是複雜的模式識別器，你向任何模型提出問題，它都會給你答案；拿著這些答案去訓練自己的模型，你的模型就會變得更好。美國可以通過芯片出口管制等方式限制中國的硬體能力，卻無法阻止蒸餾——它是任何人都能做的事。實體名單制裁對美國公司的約束力強（無法支付訂閱費用），但對已免費發佈的開源模型毫無作用。這就是為什麼中國的開源策略既合理又危險：合理是因為它削弱了西方公司的商業模式；危險是因為它帶來無法控制的安全風險。

開源模型的安全隱憂遠大於政治隱憂。英國AI安全研究所最近報告指出，領先的開源模型距離擁有駭客能力只差4-7個月——換句話說，到年底前後，人們就可以免費下載到能自動進行複雜網路攻擊的模型。Hugging Face曾遭駭客入侵，駭客關閉了一個前沿模型的守護欄，該模型隨即自動駭進OpenAI，進而突破到其他美國公司。這看似荒謬的事件其實反映出技術必然性：當你能下載一個模型時，就無法再依靠部署時的防護機制（如請求分類器和越獄防禦）；研究證明移除安全防護極其容易。中國政府很可能意識到，一旦開源模型變得強大又沒有防護，它們將成為無法管理的風險——這與官方推行開源戰略的理由直接衝突。

另一個故事講述散布蜘蛛（CrowdStrike給這個駭客組織起的名字）面臨的司法結算。這群人主要是社交工程專家——他們透過打電話說服幫助台打重置密碼、繞過多因素認證，憑藉說話技巧入侵了無數西方公司。幾年前他們似乎無人能制，但現在多名核心成員在美國、英國、芬蘭等地被逮捕。問題是這些人現在22歲到20歲，他們從15歲開始駭客生涯，而美國聯邦司法系統對18歲以下被告無能為力。這意味著多年的犯罪活動在他們未成年時無法被起訴——等他們成年了，累積的罪行包括數百次不同的駭客事件。但改邪歸正的前景黯淡。傳統駭客如Mirai殭屍網路的三位開發者被捕後成功進入網安業，因為他們擁有真正的技術技能。散布蜘蛛成員沒有這些技能，他們只是會講話。更糟的是，加密貨幣讓他們賺取巨額財富——一名英國逮捕人員持有8300萬美元加密資產，年僅20歲。在沒有技術技能可轉向正當工作、又已獲得數百萬美元非法所得的情況下，傳統的司法威懾和改邪誘因都失效了。