KeyFrame內部研究專用

Invisible Smoke: An AI Deepfake and the Battle for Taiwan's Mind (Part 2) | When the President "S...

TFC 台灣事實查核中心·6月30日週二·47 min中文

三句話摘要

臺灣如何在AI假新聞與認知戰爭中建立防禦——從資訊溯源到大腦疫苗。 防守假新聞與認知戰爭,不靠眼睛看圖、不靠平臺過濾,而靠我們每個人在轉發前停下來思考、透過深度閱讀建立知識體系,以及用同情心去理解彼此——這才是真正的群體免疫。 不對稱消耗戰的本質

重點整理

重點
  • 1

    不對稱消耗戰的本質

  • 2

    臺灣正面臨中共複合性施壓形成的極度不對稱資訊消耗戰。攻擊方製造內容農場、AI虛假影片、造假成本極低,但防守方需要進行溯源調查、事實澄清、多部會協調,成本極高且耗時,這正是中共有意為之的消磨策略。

  • 3

    情緒是攻擊的通道

  • 4

    認知戰爭不僅傳播假資訊,更利用人腦的系統一快速思考模式與情緒期望。短影片、社交媒體刻意激發憤怒、仇恨、希望等強烈情緒,讓使用者跳過理性驗證就擴散資訊,這是最有效的操縱路徑。

  • 5

    搭橋機制與群體共識

  • 6

    臺灣已驗證的polis機制與Twitter的社群備註,能幫助對立群體找到「罕見共識」——即使在嚴重分歧的議題上,也能發現雙方都認同的價值觀,從而降低資訊極化與社會撕裂。

  • 7

    系統性閱讀的防禦力

  • 8

    相比碎片化的短影片與刺激性內容,深度閱讀能啟動人腦的反思性思考。透過積累歷史知識、理解事件背景,建立自身的知識體系與判斷能力,才能對假資訊形成真正的免疫力。

實用技巧與重點

乾貨
  • 具體攻擊案例與資料
  • 2022年3月烏克蘭戰爭:澳倫斯基投降的AI造假影片大量流傳
  • 煙都戰爭第一天,虛假新聞稱「基輔53秒被攻陷」,實際烏克蘭已抵抗至今(第三年)
  • 中國AI公司Deep Seek釋出後,假資訊稱「美國AI晶片公司NVIDIA股價將從120美元跌至10美元」,實際最高漲至220美元
  • 國民黨黨主席選舉期間,部分YouTuber與Facebook賬號流量三分之二來自中國
  • 總統國防投資公佈隔天,媒體即散播「這些武器無用」言論
  • 網軍行為模式
  • 有明確上下班時間:白天9點至下午5點活躍(不同於普通使用者晚間6-10點高峰)
  • PTT共進共出賬號的Faculty Efficiency指標高達0.35,機率低至百萬分之1.9(比中彩券機率更低)
  • 每條帶有特定議題文字的貼文能吸引平均5倍使用者互動
  • 社群平臺資訊
  • Twitter (X):發明了Community Notes(社群備註)機制,由眾人協作標註、投票
  • Facebook:逐步從人工事實查核轉向社群備註
  • 臺灣政府倡議的polis機制:2015年Uber進臺爭議中成功找出「納稅、納保、納管」的跨黨派共識
  • 工具與驗證方法
  • Google圖片反搜、TinEye搜圖(識別AI深層照片前的有效工具)
  • ChatGPT群組對話功能:協助家庭成員克服資訊源分歧、找到共同理解
  • AI至AI方法:用AI模型自動偵測詐騙廣告、極化內容,人類負責識別新型態攻擊
  • 法律與制度邊界
  • 統戰、認知戰、灰色地帶侵擾的法律定義與差異
  • 瑞典全民防衛手冊(自1943年至2024年):始終強調「瑞典絕不投降」的社會共識
  • 烏克蘭手冊同樣強調:任何「烏克蘭已投降」的訊息皆為假資訊

結論

結論

防守假新聞與認知戰爭,不靠眼睛看圖、不靠平臺過濾,而靠我們每個人在轉發前停下來思考、透過深度閱讀建立知識體系,以及用同情心去理解彼此——這才是真正的群體免疫。

完整解析

詳細

認知戰爭的真正殺傷力,從烏克蘭的血淋淋見證開始顯露。2022年俄烏戰爭爆發時,澳倫斯基總統的投降影片在全球社群平臺瘋狂流傳——這支影片的畫面與聲音都是AI造假,但它想要摧毀的是整個國家人民的抵抗意志。這不是資訊戰爭,而是心理戰爭。

臺灣正經歷比烏克蘭更復雜的困境。陸委會主委邱垂正指出,臺灣正陷入中共複合性施壓下的極度不對稱消耗戰——包括軍機艦隊、外交打壓、經濟脅迫、社會滲透、法律戰、心理戰、輿論戰與認知作戰。最關鍵的是,這場戰爭的成本完全失衡:攻方透過內容農場、AI技術生成短影片,成本極低且能快速在臺灣自由流通;但防方政府必須進行溯源調查、事實澄清、多部會協調,成本巨大且耗時冗長。中共深知這一點,因此持續施壓。

為什麼假資訊這麼容易得手?傳播學者黃哲斌的觀察觸及人腦的本質。人類大腦每天接收資訊過載,因此大多數時候使用「系統一」快速思考模式——看到紅綠燈就過馬路,不需要思考。但當滑短影片時,我們仍在用這種快速模式,完全跳過了理性的「系統二」思維。短影片正是利用這一點,用刺激性畫面與情緒激發(憤怒、仇恨、希望)讓大腦自動接納資訊,而不會啟動辯證思考。這也是為什麼一位60歲長輩轉發的不實醫療資訊、理財謊言或政治虛假新聞,往往源於真誠但未經查證的傳遞。

更危險的是國家級網軍的組織行動。研究發現,中國網軍在PTT、微博、Twitter上都有明確的上下班時間——白天9點至下午5點。這違反了普通使用者的使用模式(晚間高峰),卻符合「把輿論操縱當作上班工作」的邏輯。而在特定議題上,這些賬號呈現出統計學上近乎不可能的協同行為:Faculty Efficiency高達0.35,發生機率低至百萬分之1.9——比中彩券的機率還低。這不是巧合,是有計劃的集體行動。

應對這場戰爭,需要多層次防禦。首先是個人層面的「大腦疫苗」——每次看到資訊時,深呼吸5秒鐘,問自己「這是真的嗎?」這個簡單的暫停足以讓大腦從系統一切換到系統二。其次是系統性閱讀。與碎片化的短影片不同,閱讀書籍與深度報導能啟動反思性思考,讓人在腦海中重新排列想法、提出質疑。臺大歷史系教授陳翠蓮強調,只有透過積累對臺灣歷史的理解,才能對當下的資訊判斷有足夠的知識基礎。

平臺層面的解方已在實驗中。Twitter的「社群備註」(Community Notes)機制證明了其有效性——當一條虛假或誤導性貼文出現時,使用者可以協作標註、投票選出「罕見共識」,即使立場對立的群體也能認可的澄清。這不是審查,而是讓資訊接收者「看到虛假同時也看到澄清」,形成抗體。臺灣在2015年的Uber爭議中也用polis機制成功了:計程車司機與Uber支持者本來對立,卻透過AI輔助分析發現雙方都同意「要納稅、要納保、要納管」,最終催生了多元化計程車方案。

最後也最重要的,是我們對彼此的同情式理解。認知戰爭的終極目標是讓我們互相懷疑、彼此攻擊、社會撕裂。要對抗這種惡意,最好的武器就是願意用同情心理解對方——即使意見不同,也要承認對方的人性與關切。當越來越多人選擇這種溫柔而理性的態度,假資訊的破壞力就會大幅減弱。因為對立的社會比團結的社會更容易被操縱。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。