KeyFrame內部研究專用

[un]prompted.au 2026 - 3.6 Megajoules of Dangerously Skip Permissions... - Tristan Steele

Unprompted au29 min英文
觀看原始影片

三句話摘要

硬體工程師如何用 AI 安全地連接智慧電池的 CAN 匯流排,並整合到 Home Assistant,展示多層防護策略與實用工具設計。 透過多層防護(被動監聽、隔離、權限控制、詳細日誌)和結構化的 AI 工具整合,複雜硬體系統也能安全地由 LLM 控制,不完美但可行的方案往往比追求完美更有實際價值。 CAN 匯流排的內建安全性優勢。CAN(控制器區域網路)是多主機、去中心化協議,具有內建優先權管理、故障隔離、訊息檢驗機制,廣泛用於汽車、工業控制和智慧設備。講者正是因為這些特性,才敢於用 AI 連接它。

重點整理

  1. CAN 匯流排的內建安全性優勢。CAN(控制器區域網路)是多主機、去中心化協議,具有內建優先權管理、故障隔離、訊息檢驗機制,廣泛用於汽車、工業控制和智慧設備。講者正是因為這些特性,才敢於用 AI 連接它。

  2. 多層防護勝於單一防線。系統採用被動監聽模式優先、軟體與硬體限制並行、遠程守護進程隔離權限、基於配置文件的硬邊界,以及詳細日誌記錄。即使 LLM 出錯,物理隔離和權限設定也能限制傷害範圍。

  3. AI 模型應搭配適當的工具與資料處理。直接餵原始 CAN 資料給 AI 徒勞無功;講者透過統計相關性矩陣、MCP 伺服器提供結構化查詢,讓模型能有效地「搜尋答案」而非「尋找玉石」。

  4. 不完美的實用方案優於追求完美。整套系統由臨時 Python 腳本、本地 Parquet 檔案快取、MCP 伺服器組成,雖「骯髒」但實際可用,即使較小模型如 Claude 3.5 Haiku Flash 也能在指導下完成大部分工作。

實用技巧與重點

  • 硬體與工具:
  • CAN 匯流排特性:訊息為中心、多主機無中控、無衝突碰撞、內建優先權、故障容錯、CRC 檢驗
  • 使用模型:Claude Haiku、Claude Opus、Claude 3.5 Haiku Flash
  • 使用介面:USB CAN 轉換器、HDMI 擷取卡、Raspberry Pi、3D 列印治具
  • 數據與性能:
  • HDMI 監聽:5 FPS 擷取、20% 重複率、<5 秒延遲、成本低於冰淇淋錐
  • 77 分鐘錄製產生 2000+ 原始幀、116 有用幀、17 個事件分組
  • CAN 資料:24 分鐘被動監聽獲 95 個訊息 ID、3 小時資料含 300 萬訊息
  • 相關矩陣計算:5 秒內完成 300 萬訊息的統計分析
  • 軟體與防護:
  • MCP 伺服器:HDMI Watch(查詢事件、摘要、原始影像)、CAN Watch(查詢時間範圍資料、統計相關性矩陣)
  • CAN Poke:遠程守護進程、配置文件預定義允許 ID 和承載、檔案權限檢查啟動條件

結論

透過多層防護(被動監聽、隔離、權限控制、詳細日誌)和結構化的 AI 工具整合,複雜硬體系統也能安全地由 LLM 控制,不完美但可行的方案往往比追求完美更有實際價值。

完整解析

講者 Justin 是硬體工程師,購買智慧鋰電池後想知道充電狀態。雖然官方 Bluetooth 外掛可用,但出於信任問題和追求挑戰,他決定透過最複雜的路徑:CAN 匯流排連接。CAN(控制器區域網路)是多主機、去中心化的通訊協議,與傳統地址為基礎的網路不同,它以訊息內容為中心,任何節點都可接收關心的訊息。它具有內建優先權管理、故障隔離和 CRC 檢驗,廣泛用於現代車輛、工業控制和智慧電池,正因為這些安全特性,講者認為可以安全地用 AI 連接。

他的方案分三個核心模組。首先,透過 HDMI 擷取卡監控電池應用程式的螢幕。他編寫 Python 腳本以每秒 5 幀速率擷取,用閾值偵測圖像變化,然後透過 Claude Haiku API 比較相鄰影像找出差異。這個過程成本低廉、延遲小於 5 秒,在 77 分鐘測試中產生 116 個有用幀,約 20% 擷取被過濾為重複。他指示 Claude 響應要符合特定工具的 JSON 結構,這樣可自動驗證響應合規性。

其次,他用 USB CAN 介面連接電池的 CAN 匯流排,關鍵決定是以被動監聽模式開始——AI 只能讀取,不能發送。他記錄大量 CAN 資料(最終累積 1GB 跨數天),但面臨理解訊息含義的挑戰。他用統計方法解決:計算訊息 ID 之間的相關性分佈,將其視覺化為矩陣(顏色越深相關性越低)。計算 300 萬訊息只需 5 秒,矩陣立即揭示原本需大量模式匹配才能發現的訊息關係。

第三,他建立 MCP 伺服器作為 AI 與硬體的安全介面。HDMI Watch 伺服器提供查詢事件、摘要、原始影像的結構化介面;CAN Watch 伺服器則提供時間範圍查詢、統計相關矩陣。當給予 Claude Opus 完整上下文和工具時,模型能自動解碼整個擴展狀態訊息,附帶置信度註釋。最後,他實現 CAN Poke——允許 AI 傳送訊息的工具,但配有強大防護:遠程守護進程在 Raspberry Pi 執行,配置文件預定義允許的訊息 ID 和承載內容,檔案權限錯誤則守護進程不啟動。他甚至用 3D 列印製造導線治具(彈簧夾子),確保 CAN 線不會短路。整個系統是「骯髒但實用」的設計典範,他甚至測試了較小模型(Claude 3.5 Haiku Flash),發現它們有工具支援時可完成大部分工作,只是需更多指導且速度慢。

32 min
AI 安全英文10月20日

[un]prompted.au 2026 - Human in the Loop, Ghost in the Shell... - Ash Fox

Unprompted au看原片 ↗
  • 攻擊者採用 AI 的三個維度:精密度增加(複雜技能從昂貴資源變為按需模型)、規模擴張(不再受人力限制)、速度加快(代理快速導航與決策)。但不同攻擊者類型有差異——需要隱蔽性的特務活動不太可能部署代理,而大規模無差別的勒索軟體運營者更可能採用
  • 紅隊代理需兼顧有效性與可信性:不僅要能找到漏洞和執行攻擊,更要表現得像真實攻擊者(適當隱蔽性、專業作業規範),避免洩露憑證、破壞系統、超出測試範圍等不當行為。
31 min
AI 技術英文10月20日

[un]prompted.au 2026 - To the Frontier and Back Again - John McIntosh

Unprompted au看原片 ↗
  • 超高速的漏洞發現能力:從第一個請求到發現第一個確認的漏洞只需 1 小時 16 分鐘,其中近 1 小時用於環境設置,實際代碼分析僅 13 分鐘。第二個漏洞(寫入型)則在 25 分鐘內發現,展示了 AI 在複雜技術工作上的顯著速度優勢。
  • 系統性的狩獵模式:透過設定目標、收集相關 CVE 作為上下文、建構研究環境,再進入「偵查→線索開發→驗證」的循環,AI 能自動迭代並從失敗中學習。該過程展示了模型如何識別模式(如併發問題),然後針對性地搜尋相應漏洞。
18 min
Web2 安全英文10月20日

[un]prompted.au 2026 - How Agentic SAST Decodes Business Context to Hunt Privilege Esc. - Sylvia Xu

Unprompted au看原片 ↗
  • 傳統黑箱測試需要測試多個用戶角色帳號並檢查數百個端點組合,工作量巨大且容易遺漏。新方法透過同時掃描前後端代碼,直接比對業務意圖與實現之間的差異。
  • LLM能語義化理解代碼含義,區分身份驗證邏輯與其他檢查;但存在不確定性、上下文溢出與幻覺問題。解決方案是用決定性Python代碼來驗證LLM輸出、控制上下文流、蒐集人工反饋。