Block Prompt Injection Attacks Using New AI Guardrails in Defender for Cloud

AI系統的安全威脅已從傳統代碼層面躍升至模型語義層面。講者聚焦於三類威脅：直接Prompt注入強制AI執行攻擊者指令，會話冒充通過欺騙性包裝誘騙AI洩漏後端密鑰，最隱蔽的則是間接Prompt Injection——攻擊者將惡意指令藏入外部資料源（網站、文件、郵件），待AI無意中摘要該資料時便悄無聲息地中毒。傳統安全工具對此無能為力，因為根本無「壞代碼」可捕捉。

Microsoft Defender的回答是突破性的潛空間分析。與其搜尋已知惡意簽名，不如直接分析LLM內部的數學表示與意圖流動。這好比「讀取AI的心理狀態」——無論Prompt如何巧妙偽裝，一旦LLM內部檢測到目標轉向惡意，防禦立即觸發。守護欄架構採用無代理設計，位於AI模型API前方，無需複雜安裝便可保護自訂應用、Azure AI Foundry實驗環境，乃至臨時Python腳本。

運行時防禦由三個檢測引擎並行執行：Azure AI Content Safety Prompt Shield攔截Jailbreak與交叉Prompt注入；Microsoft威脅情報動態交叉參考全球威脅資料庫，標記可疑IP與Tor出口節點；對自主代理而言，即時Tool Invocation Inspection提供最後一層守護——若被控代理試圖將敏感資訊郵件發送至外部伺服器，防禦會自動檢查並阻止該Tool調用，攻擊在執行前被完全中和。

部署過程简單到令人驚訝：進入Azure Portal的Defender環境設定，選擇訂閱，開啟AI服務方案，啟用可疑Prompt證據功能。後者是治理的關鍵——每當攻擊被標記，系統自動捕捉觸發警報的惡意查詢片段，同時自動脫敏企業與使用者敏感資訊，確保調查完全合規。所有遙測數據流入Defender XDR單一面板，安全團隊無需在孤立的AI異常間奔波，而能立即連結Prompt注入事件與被破壞身份、暴露容器等完整威脅鏈。長期而言，整合Azure Purview進行資料分類與敏感資訊管理，配合雲安全態勢管理，在混合雲環境中自動偵測誤配置，從而以無代理方式實現規模化的AI安全治理。