SecTor 2025 | Foreign Information Manipulation and Interference (FIMI) (Disinformation 2.0)
三句話摘要
北約資訊分析師揭示俄中虛假信息的系統性運作模式，從偽造新聞網站、仿冒官方頁面到滲透 AI 模型，並說明如何與現實世界混合威脅結合。 一個人加上 AI 已能複製 700 人的虛假信息工廠，而攻擊鏈從敘事植入延伸至現實縱火——在每次分享之前多問一句「這在官方來源查得到嗎？」是目前最低成本、最有效的個人防線。 虛假信息工廠已被 AI 徹底民主化。 2015 年網路噴子農場需 700 名員工，今天一人透過 ChatGPT、AI 圖像與影片生成器即可複製同等產出，成本斷崖式下降使規模化攻擊幾乎無法防堵。
重點整理
重點- 1
虛假信息工廠已被 AI 徹底民主化。 2015 年網路噴子農場需 700 名員工，今天一人透過 ChatGPT、AI 圖像與影片生成器即可複製同等產出，成本斷崖式下降使規模化攻擊幾乎無法防堵。
- 2
仿冒基礎設施是核心手法。 攻擊者不只散布假消息，而是仿造《衛報》建立 guardian.co.com、仿造北約建立 nato.ws，頁面布局與導航連結完全相同，僅插入假文章，並投放超過 10 萬美元 Facebook 廣告強制曝光，讓受害者難以辨別真偽。
- 3
AI 模型已成為汙染目標。 攻擊者先在維基百科與 Reddit 植入假聲明，ChatGPT 等 LLM 從這些來源訓練，導致輸出結果被扭曲；「Pravda Network」專為欺騙演算法而生產 360 萬篇文章，覆蓋 49 個國家。
- 4
混合威脅形成完整攻擊鏈。 虛假信息是第一步，後續接續選舉干預、網路攻擊（醫院、航班系統、鐵路）、GPS 干擾，乃至透過 Telegram 以比特幣僱人張貼反北約貼紙、縱火工廠，整條鏈條在波蘭、比利時、丹麥、德國均有真實案例。
實用技巧與重點
乾貨- 具體數字
- 1970-80 年代：15,000 名克格勃特工，25% 時間用於造假
- 2015 年：網路研究機構（IRA）近 700 名員工
- 現在：1 人 + AI ＝ 700 人工作量
- 90% 加拿大人曾輕信假新聞；51% 認為虛假信息影響了最近選舉
- 2022-2025 年調查：16%→70%→23% 的人每週至少數次發現自己誤信假消息
- LLM 被汙染後，高達 30% 的回應可能錯誤
- 40% 的線上對話為機器人偽造
- 假《衛報》文章背後的 Facebook 廣告投入：超過 10 萬美元
- Pravda Network：150 個域名、27 種敘事、49 國、360 萬篇文章、4 個社交媒體平台、46+ 語言
- 工具 / 機構 / 平台
- RT（俄羅斯官方媒體，現已被歐盟封鎖）
- IRA（Internet Research Agency，網路研究機構 / 噴子農場）
- 歐盟對外行動署（EEAS）：追蹤俄中行為者活動
- Factcheck.org、EU vs Disinfo、StopFake.org（真實查核機構）
- 「打擊虛假信息戰爭」（俄羅斯自建假查核網站）
- ChatGPT / LLM（維基百科 + Reddit 為主要訓練來源，已遭汙染）
- Telegram + Bitcoin（現實世界僱傭行動支付管道）
- guardian.co.com、nato.ws（仿冒網域真實案例）
- 《邁阿密紀事報》《波士頓時報》《波平民時代》《埃菲尔郵政》（假新聞網站範例）
- 方法論
- ABC 模型（James Spam，倫敦大學）：Actor → Behavior → Content，後加 Distribution、Effect
- FIMI（外國信息操控與干預）：蓄意、組織化、針對特定國家價值觀
- 預先辟謠（pre-bunking）：在峰會或選舉前主動公開事實，壓縮造假空間
- 芬蘭做法：將虛假信息識別納入中小學課程
- 攻擊鏈步驟
- 找弱點（宗教、種族、政治裂痕）→ 2. 編造大謊（可含一絲真相）→ 3. 隱匿來源（機器人帳號）→ 4. 找「有用的傻瓜」擴散 → 5. 被抓就否認 / 轉移話題 → 6. 長期持續數十年
結論
結論“一個人加上 AI 已能複製 700 人的虛假信息工廠，而攻擊鏈從敘事植入延伸至現實縱火——在每次分享之前多問一句「這在官方來源查得到嗎？」是目前最低成本、最有效的個人防線。”
完整解析
詳細虛假信息並非網路時代的新產物。前克格勃官員的親口證詞顯示，早在 1970-80 年代，蘇聯便動員了 15,000 名特工，要求每人花費 25% 的工時製造假信息——當時的代表案例是聲稱愛滋病病毒由五角大廈研製。講者 Frankie Sagman 在北約服務 30 年，從社交媒體主管做到資訊環境分析師，親眼見證整個生態從「把故事塞進報紙」演變為今日由 AI 驅動的工業化作戰。
今日的操作流程遠比過去精密。第一層是社交媒體的敘事植入：攻擊者先以機器人帳號以多語言（俄、荷、德、西班牙語）發布嵌入假圖的貼文，再找到能把訊息傳遞給廣大受眾的「有用的傻瓜」，由其自願擴散，讓原始來源從此隱身。第二層是建立「粉紅史萊姆」假新聞網站——《邁阿密紀事報》《波士頓時報》這類聽起來正規卻由俄羅斯支持者運營的網站，數量已超過真實本地報紙，且部分域名早在 2019 年便已注冊，長年積累可信度。第三層是「分身行動」：仿造《衛報》的 guardian.co.com、仿造北約的 nato.ws，介面布局與官方網站完全相同，導航連結也都跳回官方頁面，只有插入的假文章屬於偽造——攻擊者甚至為此投放了逾 10 萬美元的 Facebook 廣告，主動把假文章推送到受眾面前。第四層是污染查核機制本身：一方面自建假事實查核網站，一方面在德國奧運等場合大量製造噪音，讓真正的查核員疲於奔命、無力處理所有問題。
最新且最難防禦的一層是 AI 滲透。攻擊者先在維基百科和 Reddit 植入假聲明，再透過 ChatGPT 等從這些來源訓練的 LLM 使其輸出錯誤資訊——估計高達 30% 的回應可能受汙染。「Pravda Network」則是此策略的工業化實踐：150 個域名、360 萬篇專為欺騙搜尋演算法生產的文章，覆蓋 49 個國家、46 種以上語言。與此同時，AI 也被用來批量生成虛假身份、合成媒體頻道、個人化推送——系統觀察你的互動偏好，再量身投餵更多強化既有偏見的內容。
這些信息操控並非孤立存在，而是混合威脅鏈的第一步。法國宣布向烏克蘭派兵後一週，就有人透過 Telegram 以比特幣僱傭平民在埃菲爾鐵塔下擺放棺材；比利時歐洲議會附近出現大批反北約貼紙，同樣是透過 Telegram 外包給陌生人執行。再往下是針對醫院、航班登記系統、鐵路的網路攻擊，以及波蘭、丹麥工廠遭到縱火。Sagman 展示的圖表顯示，此類混合攻擊事件數量在近年持續上升，通訊、能源、工業、軍事基礎設施均已成為目標。
應對之道，Sagman 提出 ABC 三層：意識（Awareness）——芬蘭已將虛假信息識別納入學校課程，培養下一代的批判性思維；行為（Behavior）——分享前停一秒，檢查消息是否在官方媒體有對應報道；反制（Counter）——不能只靠平台自律，立法者需規範域名注冊、政府需如歐盟封鎖 RT 般介入，而北約內部也曾實踐「預先辟謠」，在峰會前主動公開事實，壓縮假信息的生存空間。
關鍵時刻
Pipeline v2帶時間戳的重點，會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。
事實查核
Pipeline v2說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。
