We Might Actually Need to Stop AI

這支影片的起點是一個罕見的歷史性訊號：OpenAI 與 Anthropic 在同一時間窗口內，各自獨立發表公開文件，要求建立國際機制來管控 AI 的發展速度。OpenAI 的計畫列出三個目標——打造能自行推進研究的 AI 系統、讓 AGI 的利益普及每個人，以及推動各國政府共同簽署集體行動框架。Anthropic 的報告則聚焦在「可驗證的暫停機制」，也就是一套讓所有國家都能確認彼此確實停下來的技術與制度架構。講者指出，這並不是兩家公司突然變得謙遜，而是一種罕見的公開認輸：他們在說「這東西跑得太快，我們一家公司控制不住」。

然而講者隨即剖析了這個訴求的根本矛盾。兩家公司同時承認，商業競爭與資本壓力讓它們無法自行放慢腳步——誰先停下來，誰就輸掉這場歷史性的競賽。因此它們呼籲的「暫停」，本質上是要求一個外部的第三方組織，能夠強制所有參與者同時停止，並且有辦法驗證沒有人在偷跑。這在外交上的難度極高：你需要美國、中國、俄羅斯等所有具備 AI 實力的國家簽署同一份協議，然後派出類似核武查察員的稽核人員，進入各國機構確認沒有人在私下訓練更大的模型。

講者認為技術層面的驗證其實並非最難的部分，因為訓練頂尖模型需要龐大且顯眼的基礎設施——數萬張專業晶片、工業級電力消耗、整棟專用建築。這些硬體來自全球高度集中的供應鏈，理論上可以追蹤。真正的牆壁是博弈邏輯：只要協議中有任何一方相信自己能悄悄搶先、拿下「歷史最大獎」，整個協議就會在第一個背叛者出現的瞬間崩潰。OpenAI 在文件中甚至直接承認這一點，說競爭誘因「難以逃脫」。

對普通人而言，講者的結論很務實：你對國際協議沒有影響力，對公司策略也沒有控制權，你唯一能掌握的是自己是否具備使用這項技術的能力。他特別點出當前存在的巨大認知落差——造 AI 的人在呼籲全球監管，而大多數人還不知道 AI 能幫他們做什麼。這個落差本身就是風險。他建議的入門方式非常具體：不要試圖創造全新的工作流程，只要把你這週本來要手動完成的一件事，改用 AI 工具做一次，從那裡開始。