KeyFrame內部研究專用

Black Hat USA 2026 Opening Session: Cyber Power in the Age of AI

Black Hat·8月6日週四·24 min英文

三句話摘要

在人工智能時代,美國政府與產業界如何透過協作,在保護創新與維護國家安全之間取得平衡。 政府與產業的靈活協作,加上企業對基礎安全問題的優先處理,比僵化監管更能有效推進 AI 時代的國家網路安全。 AI 快速發展需要破除監管僵化:由於 AI 技術每月都有重大更新,傳統監管制度會在完成程序後立即過時。因此政府必須建立靈活、適應性強的協作架構,實現與產業快速的雙向信息共享,而非採用會扼殺創新的僵化監管。

重點整理

重點
  • 1

    AI 快速發展需要破除監管僵化:由於 AI 技術每月都有重大更新,傳統監管制度會在完成程序後立即過時。因此政府必須建立靈活、適應性強的協作架構,實現與產業快速的雙向信息共享,而非採用會扼殺創新的僵化監管。

  • 2

    開源模型在美國生態中的戰略價值:政府認可開源 AI 對生態系統的重要貢獻,同時積極推動本土開源模型的全球競爭力。這個策略既能激發創新、支持新創企業,也能確保美國在全球 AI 市場的領導地位。

  • 3

    威懾與執法的雙軌戰略:政府將勒索軟體攻擊者指定為跨國犯罪組織,建立新的權力機構,FBI 開展「激流行動」打擊、摧毀攻擊基礎設施、剝奪攻擊者收益,向惡意行為者傳達後果代價的信號。

  • 4

    創新驅動優於形式主義:最有效的防禦來自一線的研究人員和企業創新者,而非華盛頓決策者。政府的職責是在保障安全的同時讓創新全速推進,功能應驅動形式而非相反。

實用技巧與重點

乾貨
  • 機構設立:白宮網路安全辦公室(川普第一屆政府末期設立,提供統一協調點)
  • AI 特性:指數級增長,每月上線新的網路安全功能
  • 行政命令:將勒索軟體攻擊者和詐騙中心指定為跨國犯罪組織
  • 執法代號:「激流行動」(FBI 開展,涉及摧毀基礎設施、剝奪攻擊者收益)
  • 協作部門:FBI、國防部、網路安全與基礎設施安全局(CISA)
  • 企業優先清單
  • 優先解決容易解決的基礎安全問題
  • 快速執行
  • 提升到董事會層級列為首要任務
  • 協作機制:建立與產業正式合作體系,確保技術負責任處理與快速部署

結論

結論

政府與產業的靈活協作,加上企業對基礎安全問題的優先處理,比僵化監管更能有效推進 AI 時代的國家網路安全。

完整解析

詳細

2026 年黑帽大會見證了網路安全領域的關鍵轉折。大會主席在開幕致詞中指出,當今的網路安全挑戰已經超越任何單一部門能夠獨自解決的範疇。人工智能正以前所未有的速度改變攻防格局,關鍵基礎設施變得相互依賴且脆弱,身份認證與信任基礎正在被重新定義。因此,最有效的防禦必須依靠國家、私營部門與公眾部門的全面協作。

隨後,白宮國家網路安全總監與 Reflection AI 執行長展開了深度對話。總監解釋了白宮網路安全辦公室的核心使命——為國家網路安全政策提供統一的協調點,這在美國歷史上是第一次創新。他強調政府的角色是與產業界密切合作,因為產業創新者對保護國家的貢獻遠遠超過政府單獨行動的能力。

在 AI 發展問題上,雙方達成重要共識:AI 的指數級增長令人興奮,但必須采用靈活監管。任何僵化的監管制度不僅會阻礙成長和創新,而且在監管流程完成後數小時就會過時。因此需要建立開放、適應性強的信息共享機制,讓政府和產業能夠快速協作應對新威脅。針對開源 AI,政府承諾支持美國本土開源模型發展,認為這對生態系統至關重要,既能推動創新,也能確保美國在全球 AI 市場的競爭力。

政府同時明確了威懾戰略。在簽署國家網路安全戰略的同一天,總統也簽署了網路犯罪行政命令,將勒索軟體攻擊者和詐騙中心明確指定為跨國犯罪組織。這使政府得以建立新的權力機構和工作小組,FBI 隨之啟動代號「激流行動」的執法行動,透過摧毀基礎設施、剝奪攻擊者收益等方式,確保惡意行為者明白其行為須付出代價。

針對企業端,總監強調了優先順序問題。雖然聽起來「無聊且不性感」,但解決基礎安全問題是最關鍵的任務。所有企業和基礎設施部門都需要優先處理容易解決的安全漏洞並快速執行。政府正在積極推動讓企業 CEO 將這項議程列為最高優先事項。政府也歡迎企業和安全專家提供反饋意見,包括成功案例和改進空間,並承諾及時回應。

總監對未來 250 年的展望表明,最有效的防禦來自一線的創新者和研究人員,而非華盛頓的政策制定者。政府的使命是在保護國家安全的同時讓創新全速推進。AI 模型雖未創造新問題,但揭露了長期未解決的系統脆弱性,現在有動力開發以機器速度進行修復的技術。最終,美國創新者將提供造福全球的技術。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing
編輯精選
83 min
AI 技術英文PODCAST8月26日

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing

Latent Space

  • 加速傳統物理模擬的典範轉移:氣象科學家原本認為 AI 無法匹敵數十年的物理建模工作,但傅里葉神經算子不僅達到同等精度,還快了一萬多倍。原本需要超級計算機的計算現在用消費級 GPU 就能完成,這改變了整個領域的思維方式。
  • 傅里葉域的非局部現象捕捉:傅里葉域能有效表示非局部現象(如大氣河流跨越千里的影響),且計算複雜度為準線性,遠優於完全連接的全局模型。這特別適合流體動力學、量子化學等自然現象中普遍存在的非局部相互作用。
  • 多解析度連續函數表示:神經算子將輸入輸出視為連續函數而非固定維度向量,可在推論時以任意解析度查詢,並能在更高解析度上疊加物理約束或額外數據,克服了固定解析度神經網路的限制。
Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Why the Next AI Breakthrough May Come from Physics with Max Welling - #774
55 min
AI 技術英文PODCAST8月25日

Why the Next AI Breakthrough May Come from Physics with Max Welling - #774

TWIML AI

  • 多層篩選的材料設計流程:先搜尋文獻資料庫找現有材料,若無合適的就用生成模型產生數十萬個候選分子,用機器學習力場進行分子動力學模擬篩選,再進行實驗驗證。這套流程相比傳統量子力學計算能加速效率數個數量級。
  • 生成AI與熱力學的數學等價性:資訊論是兩個領域的共同基礎,生成模型的擴散過程與非平衡統計力學描述資訊損失的過程在數學上完全對應,許多開發出來的方法工具在兩領域都有精確對應的形式。
  • 基礎模型的遷移學習策略:先在廣泛材料資料集上訓練基礎力場表示,再針對特定材料類別進行蒸餾微調,既能保持計算效率也能獲得專一性。