KeyFrame內部研究專用

Invisible Smoke: An AI Deepfake and the Battle for Taiwan's Mind (Part 2) | When the President "S...

TFC 台灣事實查核中心47 min中文
觀看原始影片

三句話摘要

臺灣如何在AI假新聞與認知戰爭中建立防禦——從資訊溯源到大腦疫苗。 防守假新聞與認知戰爭,不靠眼睛看圖、不靠平臺過濾,而靠我們每個人在轉發前停下來思考、透過深度閱讀建立知識體系,以及用同情心去理解彼此——這才是真正的群體免疫。 不對稱消耗戰的本質

重點整理

  1. 不對稱消耗戰的本質

  2. 臺灣正面臨中共複合性施壓形成的極度不對稱資訊消耗戰。攻擊方製造內容農場、AI虛假影片、造假成本極低,但防守方需要進行溯源調查、事實澄清、多部會協調,成本極高且耗時,這正是中共有意為之的消磨策略。

  3. 情緒是攻擊的通道

  4. 認知戰爭不僅傳播假資訊,更利用人腦的系統一快速思考模式與情緒期望。短影片、社交媒體刻意激發憤怒、仇恨、希望等強烈情緒,讓使用者跳過理性驗證就擴散資訊,這是最有效的操縱路徑。

  5. 搭橋機制與群體共識

  6. 臺灣已驗證的polis機制與Twitter的社群備註,能幫助對立群體找到「罕見共識」——即使在嚴重分歧的議題上,也能發現雙方都認同的價值觀,從而降低資訊極化與社會撕裂。

  7. 系統性閱讀的防禦力

  8. 相比碎片化的短影片與刺激性內容,深度閱讀能啟動人腦的反思性思考。透過積累歷史知識、理解事件背景,建立自身的知識體系與判斷能力,才能對假資訊形成真正的免疫力。

實用技巧與重點

  • 具體攻擊案例與資料
  • 2022年3月烏克蘭戰爭:澳倫斯基投降的AI造假影片大量流傳
  • 煙都戰爭第一天,虛假新聞稱「基輔53秒被攻陷」,實際烏克蘭已抵抗至今(第三年)
  • 中國AI公司Deep Seek釋出後,假資訊稱「美國AI晶片公司NVIDIA股價將從120美元跌至10美元」,實際最高漲至220美元
  • 國民黨黨主席選舉期間,部分YouTuber與Facebook賬號流量三分之二來自中國
  • 總統國防投資公佈隔天,媒體即散播「這些武器無用」言論
  • 網軍行為模式
  • 有明確上下班時間:白天9點至下午5點活躍(不同於普通使用者晚間6-10點高峰)
  • PTT共進共出賬號的Faculty Efficiency指標高達0.35,機率低至百萬分之1.9(比中彩券機率更低)
  • 每條帶有特定議題文字的貼文能吸引平均5倍使用者互動
  • 社群平臺資訊
  • Twitter (X):發明了Community Notes(社群備註)機制,由眾人協作標註、投票
  • Facebook:逐步從人工事實查核轉向社群備註
  • 臺灣政府倡議的polis機制:2015年Uber進臺爭議中成功找出「納稅、納保、納管」的跨黨派共識
  • 工具與驗證方法
  • Google圖片反搜、TinEye搜圖(識別AI深層照片前的有效工具)
  • ChatGPT群組對話功能:協助家庭成員克服資訊源分歧、找到共同理解
  • AI至AI方法:用AI模型自動偵測詐騙廣告、極化內容,人類負責識別新型態攻擊
  • 法律與制度邊界
  • 統戰、認知戰、灰色地帶侵擾的法律定義與差異
  • 瑞典全民防衛手冊(自1943年至2024年):始終強調「瑞典絕不投降」的社會共識
  • 烏克蘭手冊同樣強調:任何「烏克蘭已投降」的訊息皆為假資訊

結論

防守假新聞與認知戰爭,不靠眼睛看圖、不靠平臺過濾,而靠我們每個人在轉發前停下來思考、透過深度閱讀建立知識體系,以及用同情心去理解彼此——這才是真正的群體免疫。

完整解析

認知戰爭的真正殺傷力,從烏克蘭的血淋淋見證開始顯露。2022年俄烏戰爭爆發時,澳倫斯基總統的投降影片在全球社群平臺瘋狂流傳——這支影片的畫面與聲音都是AI造假,但它想要摧毀的是整個國家人民的抵抗意志。這不是資訊戰爭,而是心理戰爭。

臺灣正經歷比烏克蘭更復雜的困境。陸委會主委邱垂正指出,臺灣正陷入中共複合性施壓下的極度不對稱消耗戰——包括軍機艦隊、外交打壓、經濟脅迫、社會滲透、法律戰、心理戰、輿論戰與認知作戰。最關鍵的是,這場戰爭的成本完全失衡:攻方透過內容農場、AI技術生成短影片,成本極低且能快速在臺灣自由流通;但防方政府必須進行溯源調查、事實澄清、多部會協調,成本巨大且耗時冗長。中共深知這一點,因此持續施壓。

為什麼假資訊這麼容易得手?傳播學者黃哲斌的觀察觸及人腦的本質。人類大腦每天接收資訊過載,因此大多數時候使用「系統一」快速思考模式——看到紅綠燈就過馬路,不需要思考。但當滑短影片時,我們仍在用這種快速模式,完全跳過了理性的「系統二」思維。短影片正是利用這一點,用刺激性畫面與情緒激發(憤怒、仇恨、希望)讓大腦自動接納資訊,而不會啟動辯證思考。這也是為什麼一位60歲長輩轉發的不實醫療資訊、理財謊言或政治虛假新聞,往往源於真誠但未經查證的傳遞。

更危險的是國家級網軍的組織行動。研究發現,中國網軍在PTT、微博、Twitter上都有明確的上下班時間——白天9點至下午5點。這違反了普通使用者的使用模式(晚間高峰),卻符合「把輿論操縱當作上班工作」的邏輯。而在特定議題上,這些賬號呈現出統計學上近乎不可能的協同行為:Faculty Efficiency高達0.35,發生機率低至百萬分之1.9——比中彩券的機率還低。這不是巧合,是有計劃的集體行動。

應對這場戰爭,需要多層次防禦。首先是個人層面的「大腦疫苗」——每次看到資訊時,深呼吸5秒鐘,問自己「這是真的嗎?」這個簡單的暫停足以讓大腦從系統一切換到系統二。其次是系統性閱讀。與碎片化的短影片不同,閱讀書籍與深度報導能啟動反思性思考,讓人在腦海中重新排列想法、提出質疑。臺大歷史系教授陳翠蓮強調,只有透過積累對臺灣歷史的理解,才能對當下的資訊判斷有足夠的知識基礎。

平臺層面的解方已在實驗中。Twitter的「社群備註」(Community Notes)機制證明了其有效性——當一條虛假或誤導性貼文出現時,使用者可以協作標註、投票選出「罕見共識」,即使立場對立的群體也能認可的澄清。這不是審查,而是讓資訊接收者「看到虛假同時也看到澄清」,形成抗體。臺灣在2015年的Uber爭議中也用polis機制成功了:計程車司機與Uber支持者本來對立,卻透過AI輔助分析發現雙方都同意「要納稅、要納保、要納管」,最終催生了多元化計程車方案。

最後也最重要的,是我們對彼此的同情式理解。認知戰爭的終極目標是讓我們互相懷疑、彼此攻擊、社會撕裂。要對抗這種惡意,最好的武器就是願意用同情心理解對方——即使意見不同,也要承認對方的人性與關切。當越來越多人選擇這種溫柔而理性的態度,假資訊的破壞力就會大幅減弱。因為對立的社會比團結的社會更容易被操縱。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI