KeyFrame內部研究專用

Rob T. Lee, Glenn Thrope, Dan Hubbard & Sergej Epp - Vibe Coded | [un]prompted 2026

unprompted·3月26日週四·12 min英文

三句話摘要

在安全會議上,多位講者展示用 Claude Code 等 AI 工具快速構建安全分析系統,同時揭示 AI 加速漏洞利用時間帶來的嚴峻安全威脅。 AI 正在同時加速安全防禦和漏洞利用兩端的進程,企業必須立即重構補丁策略和風險管理體系。 AI 工具可將複雜安全分析完全自動化。SANS SIFT workstation 加上 Claude Code,經 45 分鐘配置後,在 14 分 27 秒內完成傳統需 3 天的入侵分析,透過預配置 CLAUDE.md 和 skills 實現無縫集成。

重點整理

重點
  • 1

    AI 工具可將複雜安全分析完全自動化。SANS SIFT workstation 加上 Claude Code,經 45 分鐘配置後,在 14 分 27 秒內完成傳統需 3 天的入侵分析,透過預配置 CLAUDE.md 和 skills 實現無縫集成。

  • 2

    AI 高速開發帶來安全漏洞風險。Glenn Thorp 用 Lovable 在 8 分鐘內生成 6,800 行程式碼、17 個依賴,自動爬取並複製會議網站,甚至能建立虛假支付頁面,展示此類工具易被用於釣魚或詐騙。

  • 3

    漏洞利用時間窗口急劇縮小,2020 年需一年以上,現在僅約一天,超過 50% 零日漏洞在補丁發佈前已被利用,但企業補丁流程並未相應加速。

  • 4

    安全威脅指數化上升的臨界點已至。若漏洞構建成本下降、利用難度降低,而武器化漏洞率恆定在 2% 水準,整體威脅將按指數級增長。

實用技巧與重點

乾貨
  • Rob Lee SIFT 配置時間:45 分鐘~1 小時
  • 入侵分析時間:14 分 27 秒(傳統 3 天)
  • Glenn Thorp 代碼量:8 分鐘 6,800 行
  • Glenn Thorp 依賴項:17 個
  • 日程準確率:25% 正確、75% 錯誤
  • 漏洞利用時間軸:2020 年超過 1 年 → 最近數月 → 現在 ~1 天
  • 零日漏洞比例:>50% 在補丁發佈前被利用
  • 武器化漏洞利用率:恆定 ~2%
  • 虛假會費示例:$7.99

結論

結論

AI 正在同時加速安全防禦和漏洞利用兩端的進程,企業必須立即重構補丁策略和風險管理體系。

完整解析

詳細

Rob Lee 來自 SANS Institute,18 年前開發了 SIFT workstation 這套數位鑑識工具。三個月前他發現可將 Claude Code 整合其中,花 45 分鐘至 1 小時配置 Claude MD 和相關 skills 後,他向 Claude Code 下達簡單指令:"這是個硬盤,找出惡意軟件"。系統隨即處理,在 14 分 27 秒內完成傳統需花 3 天才能完成的工作——從硬盤映像到完整入侵分析報告。這不代表移除人類調查員,但應對高速威脅團隊加快攻擊速度的必要措施。

Glenn Thorp 來自 GreyNoise,臨時被邀請展示週末快速開發的項目。他用 Google Sheet 作資料源開發了個性化會議日程應用,後來發現 LLM 混淆了 75% 的演講描述,經過重新驗證才正確。更有趣的是,他用 Lovable 在 8 分鐘內生成 6,800 行程式碼和 17 個依賴項,建立了爬取各大社交媒體評論的工具。該工具自動複製會議網站的外觀,甚至構建了一個虛假支付頁面,允許訪客輸入信用卡信息以 $7.99 購買明年會議門票——完整演示了如何輕易對任何網站發起類似攻擊。

Seg App 來自 Sysdig,重點討論 AI 對漏洞利用速度的影響。他回顧研究指出漏洞從發現到被利用的時間窗口正在急劇縮小:2020 年超過一年、最近數月、現在僅約一天。企業補丁流程卻未相應加快,存在諸多挑戰。數據表明超過 50% 零日漏洞在補丁發佈前或同天被利用。在 2% 武器化漏洞利用率恆定的背景下,若漏洞構建成本下降,這對全球安全將造成指數級威脅。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing
編輯精選
83 min
AI 技術英文PODCAST8月26日

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing

Latent Space

  • 加速傳統物理模擬的典範轉移:氣象科學家原本認為 AI 無法匹敵數十年的物理建模工作,但傅里葉神經算子不僅達到同等精度,還快了一萬多倍。原本需要超級計算機的計算現在用消費級 GPU 就能完成,這改變了整個領域的思維方式。
  • 傅里葉域的非局部現象捕捉:傅里葉域能有效表示非局部現象(如大氣河流跨越千里的影響),且計算複雜度為準線性,遠優於完全連接的全局模型。這特別適合流體動力學、量子化學等自然現象中普遍存在的非局部相互作用。
  • 多解析度連續函數表示:神經算子將輸入輸出視為連續函數而非固定維度向量,可在推論時以任意解析度查詢,並能在更高解析度上疊加物理約束或額外數據,克服了固定解析度神經網路的限制。
Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Why the Next AI Breakthrough May Come from Physics with Max Welling - #774
55 min
AI 技術英文PODCAST8月25日

Why the Next AI Breakthrough May Come from Physics with Max Welling - #774

TWIML AI

  • 多層篩選的材料設計流程:先搜尋文獻資料庫找現有材料,若無合適的就用生成模型產生數十萬個候選分子,用機器學習力場進行分子動力學模擬篩選,再進行實驗驗證。這套流程相比傳統量子力學計算能加速效率數個數量級。
  • 生成AI與熱力學的數學等價性:資訊論是兩個領域的共同基礎,生成模型的擴散過程與非平衡統計力學描述資訊損失的過程在數學上完全對應,許多開發出來的方法工具在兩領域都有精確對應的形式。
  • 基礎模型的遷移學習策略:先在廣泛材料資料集上訓練基礎力場表示,再針對特定材料類別進行蒸餾微調,既能保持計算效率也能獲得專一性。