AI 被武器化！ChatGPhish釣魚 × Meta AI劫帳 × LLM Agent首例後滲透｜2026.06.02｜Orange888tw

AI技術的快速發展帶來了前所未有的攻擊面。本次安全事件集中反映了三類新型威脅：一是利用AI系統本身的信任機制進行注入攻擊，二是針對AI支援系統架構的漏洞進行帳號劫持，三是將自動化代理武器化進行完整的滲透鏈條。

首先，ChatGFish事件顯示提示注入已成為針對AI應用的實戰攻擊。研究人員發現，攻擊者無需入侵ChatGPT系統，只需在目標網頁中植入提示注入指令，就能讓ChatGPT的網頁摘要功能自動輸出惡意URL。這種攻擊巧妙地利用了企業員工對AI輸出的過度信任——AI生成的內容往往被視為可靠資訊，因此員工會直接點擊推薦的連結。這轉變了傳統網路安全的信任模型：AI的可信度本身成為了攻擊工具。

其次，Meta AI聊天機器人漏洞導致的大規模帳號劫持表明AI系統的認證機制存在根本缺陷。攻擊者不是通過破解密碼或進行釣魚攻擊，而是直接利用AI支援系統本身的漏洞來劫持包括歐巴馬白宮和美國太空部隊在內的高知名度Instagram帳號。被劫持的帳號發布支持伊朗的圖片和訊息，造成了嚴重的聲譽和地緣政治影響。這起事件突出了AI認證層的脆弱性。

最具前瞻性的威脅是全球首例使用LLM Agent進行完全自動化後滲透的攻擊。攻擊者利用FA-2026-39987漏洞在Mermol系統中獲得初始訪問權限後，部署了LLM Agent代理。這個自動化代理隨後獨立執行了整個後期滲透過程：自動進行橫向移動偵查、收集系統認證、挖掘敏感資訊，最終完成資料外洩——整個過程無需人工干預。這代表著攻擊的完全自動化時代已經到來。

最後，Dark Reading的分析重點指出了問題的根本所在：AI安全的風險不在於模型本身，而在於組織如何部署和管理這些系統。四大失敗模式——過度授權Agent、缺乏網路隔離、缺乏出口過濾、缺乏行為監控——將合法的AI系統轉變為攻擊跳板。jQuery開源庫的事件進一步印證了這一點：開發者在開源依賴中植入提示注入指令，利用AI編碼助手的信任執行惡意操作（刪除應用輸出目錄），展示了供應鏈攻擊已進化到AI時代。