KeyFrame內部研究專用
每日

今日 KeyFrame

管線分析的每一部影片,最新的優先。每張卡片都直接連回原始影片。

6月7日星期日

4
Claude Mythos 5 LEAKED & IS Coming Sooner Than Expected & GPT-5.6 Checkpoint Out! Huge AI News!
16 min
AI 技術英文6月7日

Claude Mythos 5 LEAKED & IS Coming Sooner Than Expected & GPT-5.6 Checkpoint Out! Huge AI News!

World of AI

  • Claude Mythos 5 並非 Opus 的版本升級,而是 Anthropic 推出的全新模型類別,能力跨越程式設計、互動應用、視覺設計等多個領域,其高昂定價反映出模型性能的量級躍升。GPT 5.6 已開始進行紅隊測試並替換舊檢查點,OpenAI 仍有時間在正式發佈前完善不同檢查點的性能差異。DeepSeek 推出原生應用客戶端將解鎖適應不同工作流的高級功能,特別對程式研究與長上下文工作有益。Google 的 Purple 視訊模型在文字對齐與視覺逼真度上實現新突破,強烈暗示這可能是 Omni Pro 級別的重大升級。
Claude 新功能 Dynamic Workflow,一句話開上百個 agent 幫你幹活
15 min
AI 技術中文6月7日

Claude 新功能 Dynamic Workflow,一句話開上百個 agent 幫你幹活

Gary Chen

  • Dynamic Workflows 透過離線整理機制解決了 subagent 的 context 爆滿問題。傳統 subagent 派出數十個時,所有執行過程都會堆進主對話,導致 context window 迅速飽和,但 workflow 的中間結果全留在後台腳本變數裡,只有最終答案回傳,因此可以安全地同時執行數百個任務而不傷害主對話。其次,workflow 與其他功能的本質差異在於「下一步由誰決定」——workflow 是程式碼預先決定的確定流程,subagent 是 Claude 臨場判斷,agent team 是多 agent 互相討論決策,skill 是執行食譜,goal 是長期迭代目標。最後,它內建品質把關,可讓多個 agent 從不同角度挑戰同一問題,通過多輪驗證的結論比單次執行更可信。
GPT 5.6 vs Mythos 5 LEAKS, It's Not Even Close!
12 min
AI 技術英文6月7日

GPT 5.6 vs Mythos 5 LEAKS, It's Not Even Close!

World of AI

  • GPT 5.6 填補前端生成弱點:OpenAI 長期在 UI 生成上落後於 Anthropic,GPT 5.6 透過改進的 Kindle Alpha 檢查點,讓模型無須複雜提示詞就能生成更好的前端代碼,這對 Codex 超級應用戰略至關重要。
  • Mythos 5 展現超越預期的能力:不是發佈預期的 Mythos Preview 1,而是完整的 Mythos 5 新模型類別,在 SVG 生成、推理能力上達到能自動化整個軟體公司工作流程的程度,但成本高昂且將被削弱後才發佈。
  • 速率限制與成本是採用障礙:Mythos 5 成本為 Opus 的 3.2 倍,加上速率限制考慮,生產版本將是經過削弱的版本以平衡可用性,實驗版本展現的能力會比公開版本更強。
Portswigger Awards: Top 10 Web Hacking Techniques of 2024 | Bug Bounty Village, DEF CON 33
13 min
Web2 安全英文6月7日

Portswigger Awards: Top 10 Web Hacking Techniques of 2024 | Bug Bounty Village, DEF CON 33

Bug Bounty Village

  • OAuth 與身份驗證的多層漏洞 — Cookie 作用域、雙擊競態條件、路徑混淆等攻擊向量證明即使是成熟的驗證協議也存在被忽視的攻擊面,需要從應用層到基礎設施層全面檢視。
  • 協議層攻擊比應用層防禦更難防 — 即使應用層採用預處理語句等標準防禦,攻擊者仍可通過深入協議本身(如 HTTP、SQL 協議訊息格式)找到破口,表明理解系統深層運作機制至關重要。
  • 底層技術的深度研究帶來突破 — 無論是 Windows ANSI 字元轉換、DOM 消毒器邊界還是 Apache 模組交互,深入掌握基礎設施的複雜行為能發現表面安全的系統中隱藏的漏洞。

6月6日星期六

7
15分鐘學會AI Agent|完整講解
14 min
AI 技術中文6月6日

15分鐘學會AI Agent|完整講解

李厂长来了

  • LLM → 工作流 → Agent 是三個層次,不是同一件事。 大語言模型只能被動回答問題;工作流加入固定步驟但決策仍由人控制;Agent 則讓 AI 自己拆解目標、選擇工具、反覆迭代,做決定的主體完全轉移給 AI。
  • 搭建 Agent 的核心是三塊積木的組合。 模型負責推理,工具負責連接外部系統(如查訂單、發訊息),評估則用來衡量輸出品質好壞,少了任何一塊,Agent 都是不完整的。
  • 四種設計模式對應不同場景的複雜度。 反思與工具使用模式穩定可預測,適合日常任務;規劃與多智能體模式靈活自主,適合拆解複雜、多環節的大型任務。
扎克伯格氣瘋了!😱Meta史詩級翻車:黑客不寫代碼,光靠「聊天」就端了白宮大號?!🚫
6 min
AI 技術中文6月6日

扎克伯格氣瘋了!😱Meta史詩級翻車:黑客不寫代碼,光靠「聊天」就端了白宮大號?!🚫

AI era

  • AI 的概率性本質與安全的確定性需求根本互斥:網路安全依賴數學上嚴丝合縫的驗證邏輯(如 TLS、OpenSSL),差一個 bit 即拒絕。而大語言模型本質是基於概率的文字接龍,面對不同情緒包裝的同一請求可能給出截然不同的判斷,這種隨機性不應出現在任何安全鏈路中。
  • 架構設計犯了最致命的忌諱——安全邊界失控:Meta 工程師在業務壓力下,將修改用戶底層認證資訊的 API 直接暴露給 AI 機器人調用,而非限制 AI 僅能回答無害的一般問題,此舉是業務傲慢而非單純技術失誤。
  • 雙重驗證(2FA)是此次事件中唯一有效的防線:AI 客服即使騙到了密碼重置權,也無法跨越綁定手機的動態驗證碼這道物理隔離。開啟 2FA 的帳號全數倖免,未開啟者無一倖免。
2026年Windows將徹底消失,取而代之的是這個「索命」AI...
23 min
AI 技術中文6月6日

2026年Windows將徹底消失,取而代之的是這個「索命」AI...

獨特見解

  • 微軟的生存焦慮驅動冒險押注:谷歌與OpenAI正推進Agentic OS,傳統APP生態若被取代,Windows將淪為底層算力廢鐵。納德拉不惜採用安全漏洞頻出的OpenClaw模型,並聯手英偉達RTX Spark芯片打造新型硬件綁定,目的是在法律收緊前將AI深植企業基礎架構。
  • 內容創作者與平台的利益結構正式破裂:谷歌AI Overviews直接摘要媒體內容、截斷流量,出版商廣告收入斷崖下跌。英國CMA的裁決首次賦予媒體退出AI訓練資料收集的法律權利,並要求版權標注,這標誌著AI時代生產資料所有權重新向內容方傾斜。
  • AI使能的犯罪與安全威脅已質變:東南亞詐騙集團引入大語言模型自動生成個人化話術與聲音克隆,效率與欺騙性大幅提升;多倫多大學的AI蠕蟲可根據目標環境現場改寫攻擊程式碼,並劫持算力自我進化,代表傳統特徵碼防毒邏輯已失效。
Crypto's Greatest Security Lesson #bitcoin #cybersecurity
5 min
Web3 安全英文6月6日

Crypto's Greatest Security Lesson #bitcoin #cybersecurity

Case Decoded

  • 私鑰即所有權的雙刃劍:加密貨幣「持有私鑰即擁有資產」的設計,使交易永遠不可撤銷。這一特性在傳統銀行中由機構背書補救,但在加密貨幣中卻讓受害者在被迫簽署交易後完全無法止損。
  • 犯罪手法從鏈上轉移到人身:攻擊區塊鏈需耗費大量算力,但攻擊持有者只需一把武器。犯罪者利用公開的鏈上數據、平台洩露的 KYC 資料,精準鎖定高資產目標,大幅降低作案成本。
  • 社會工程是入侵的前哨:以 Kraken 相關案例為例,犯罪者偽造義大利執法機構郵件,套取用戶真實姓名與住址,再透過電話確認其持幣規模,最終完成從鏈上地址到現實門牌號的完整情報鏈。
Zcash暴跌50%,安全漏洞誰的鍋 ?
8 min
AI 技術中文6月6日

Zcash暴跌50%,安全漏洞誰的鍋 ?

幣圈發哥 Facrypto

  • 暴跌原因是恐慌,非攻擊:這個漏洞是 Zcash 委託的資安研究員主動挖掘發現的,並未被任何惡意者利用,幣價崩跌完全源於消息公開後散戶誤判情勢而恐慌賣出。
  • 漏洞性質極度危險:因 Zcash 是隱私鏈,所有交易不可見,此漏洞允許攻擊者無限憑空印出 Zcash 並套現,且事後無法被察覺或證明是否已遭濫用,理論上可直接讓幣歸零。
  • AI 超越人類密碼學家:漏洞自 2022 年存在,Zcash 長期投入密碼學團隊定期做資安審查卻未發現,但 Opus 4.8 agent 一次掃描便找出,顯示 AI 在代碼審計上已出現質的突破。
運用 AI 打造個人知識系統與自動化工作流指南
5 min
AI 技術中文6月6日

運用 AI 打造個人知識系統與自動化工作流指南

Ada Digital Alchemy

  • 個人知識系統不是新概念,但AI能大幅提升其效能 — 傳統的資訊管理容易變得繁瑣,AI的自然語言處理和機器學習可以自動分類、標記、分析使用習慣,讓系統逐漸適應個人需求。
  • 有效系統需要周詳規劃與合適工具選擇 — 必須明確目標、理解需求,選擇具有靈活性和擴充能力的平台,然後設定資料庫、筆記、標籤系統等組成部分,為未來的擴充留下空間。
  • 自動化工作流是提升效率的關鍵 — 識別電郵管理、日程安排、資料備份等重複性任務,用AI驅動的工具如Gmail自動分類和Google Calendar同步來減少手動操作,並根據條件自動執行複雜任務。
Claude Code + AssemblyAI: The Easiest Voice Agent You Can Build!
10 min
AI 技術英文6月6日

Claude Code + AssemblyAI: The Easiest Voice Agent You Can Build!

World of AI

  • API 整合化設計簡化開發複雜度——傳統做法需要串接語音轉文字、模型推理、文字轉語音三個服務且文件各異,Assembly AI 統一在一個 API 後面,減少出錯點且只付一份賬單。
  • 系統提示詞是關鍵——Assembly AI 提供的系統提示詞包含 API 格式、瀏覽器兼容性、工具調用結構、換人檢測等細節,貼入 Claude Code 能讓它從第一次就寫對代碼,而非依賴模型猜測。
  • 互動式規畫流程降低決策摩擦——Claude Code 理解系統提示詞後會逐步提問(區域、日曆系統、API 金鑰等),確認各項後才執行,使用者只需答題而非手動編碼。

6月5日星期五

12
3个AI副业零门槛打造自动化赚钱机器!工作流实操 小白教学 AI搞钱 AI创业 AI赚钱 AI副业 赚钱 变现 副业 Chatgpt gumroad etsy 自由职业 财富自由 AI工具 AI
18 min
企業管理中文6月5日

3个AI副业零门槛打造自动化赚钱机器!工作流实操 小白教学 AI搞钱 AI创业 AI赚钱 AI副业 赚钱 变现 副业 Chatgpt gumroad etsy 自由职业 财富自由 AI工具 AI

盈夏AI轻创业

  • 細分人群比廣撒網更賺錢:產品面向所有人等於不專業,鎖定「應屆生英文履歷優化」這類具體痛點,用戶付費意願更高,競爭也更小。
  • 按需印刷徹底改變電商門檻:Printify 模式讓創作者只需提供設計,工廠在有人下單後才生產並直接發貨,創作者完全不碰庫存與物流,利潤來自定價與成本的價差。
  • 小工具網站的廣告收入被嚴重低估:一個每月 5.8 萬流量的隨機分組工具,透過 Google AdSense 理論上每天可產生近 3,000 美金廣告收益,核心在於解決高頻、易被搜尋的微小需求。
AI越狱,模型破甲…大模型是如何被玩坏的?当一名遵纪守法的“好AI”有多难?【柴知道】
9 min
AI 安全中文6月5日

AI越狱,模型破甲…大模型是如何被玩坏的?当一名遵纪守法的“好AI”有多难?【柴知道】

柴知道ChaiKnows Official Channel

  • AI 的安全限制來自訓練目標衝突,而非技術上「做不到」。 模型同時需要滿足語言建模、指令遵循與安全三項目標,攻擊者只需設計出刁鑽的提問角度,就能讓模型在安全與其他目標之間被迫取捨,從而輸出違規內容。
  • 越獄手法的核心是「數據差」。 大模型預訓練語料量達千億規模,但安全對齊資料集遠小於此;攻擊者利用這個差距,把需求轉換成祖魯語、Base64、摩斯密碼等低頻格式,繞過安全訓練覆蓋不足的盲區,此即「不匹配的泛化」攻擊。
  • 現有防禦機制是被動補丁,結構上天然落後於攻擊。 業界以「紅隊測試」模擬攻擊尋找漏洞,但隨著模型參數規模膨脹,對齊成本持續攀升;甚至出現用大模型自動批量生成並優化越獄提示詞的「AI 對打 AI」模式,使修補速度遠遠跟不上攻擊迭代。
【AI工程師藍圖】寫程式真的死了嗎?邁向 Agentic 代理化時代必備的 4 大核心能力!|KYC AI Labs
9 min
AI 技術中文6月5日

【AI工程師藍圖】寫程式真的死了嗎?邁向 Agentic 代理化時代必備的 4 大核心能力!|KYC AI Labs

KYC AI LABS

  • 軟體進化為三個時代,工程師角色從「規則制定者」變成「目標管理者」。 Karpathy 框架中,Software 3.0 是在 1.0 與 2.0 之上疊加,傳統程式碼仍不可或缺,因為它是約束 AI 代理不暴走的護欄基礎設施。
  • Vibe Coding 是業餘玩家的陷阱,70% 的準確率在企業環境中等同於負債。 真正的代理化工程關注的是生產環境的絕對可靠度、安全性與問責制,工程師必須在出問題時能扛起責任。
  • AI 系統最致命的弱點是提示詞注入攻擊與缺乏治理架構。 案例中供應商在 PDF 內嵌隱藏惡意指令,即劫持整個採購代理,根本原因是沒有工具沙盒、輸入過濾與決策日誌。
一个隐藏4年的漏洞,让百亿项目Zcash一天蒸发30%?
3 min
Web3 安全中文6月5日

一个隐藏4年的漏洞,让百亿项目Zcash一天蒸发30%?

软件开发张总

  • 信任崩潰比漏洞本身更致命:開發團隊雖已快速修復漏洞,但隱私鏈特性使社群無法核實過去四年是否曾發生偽造,供應量的不確定性直接推翻整個估值邏輯,觸發恐慌性拋售。
  • AI 正在重塑攻防雙方的能力邊界:研究人員藉助新一代 AI 模型快速完成複雜電路審查,找出潛伏四年的漏洞;這意味著未來發現漏洞的門檻大幅降低,攻擊者同樣受益,停留在舊安全標準的專案風險只增不減。
  • 安全審計是生存條件,不是加分項:合約一旦部署上鏈即 24 小時暴露於全球駭客面前,閃電貸攻擊、權限管理錯誤、預言機操控、無限鑄幣等案例屢見不鮮,再強的品牌與社群都可能毀於單一程式細節。
Claude Oceanus: The Model Anthropic Tried To Hide (It Leaked In China)!
8 min
AI 技術英文6月5日

Claude Oceanus: The Model Anthropic Tried To Hide (It Leaked In China)!

World of AI

  • 多模態能力已完全內置 — 模型不僅能理解文本,還能進行複雜的多模態推理,從而生成SVG程式碼、音樂視覺化、物理模擬等多種創意輸出,這表示模型的通用性大幅提升。
  • 零樣本與低努力的高質量輸出 — 用戶無需複雜提示就能直接生成複雜場景(如Voxel村莊、遊戲資產),相比過去模型需要高精力投入才能獲得可用結果,代表模型的理解與生成效率有質的突破。
  • 成本與性能的權衡 — 雖然定價為Opus 4.8的3.2倍,但泄露輸出的品質差異足以支撐更高成本,這將影響開發者的採用決策和市場競爭力。
我做了一个牛马语音Agent,用旅行碎片时间帮我完成工作
6 min
AI 技術中文6月5日

我做了一个牛马语音Agent,用旅行碎片时间帮我完成工作

小天fotos

  • 語音是Agent時代的任務控制器,不只是輸入方式。當任務異步並發運行時,語音能隨時汇報進度,用戶可即時插入語音指令糾正任務偏差,這是移動場景高效工作的關鍵。
  • Codex的commentary通道設計卓越。Codex輸出分為思考、工具調用、最終回複三個通道,其中工具調用時的"喃喃自語"精確適合用於進度汇報,顯著提升了長任務監控的體驗。
  • 生成式UI比語音回覆更高效。預設結構讓AI用可視化方式呈現進度——車機屏幕顯示DAG圖中各任務狀態,手機確認戶外進度,這是移動場景中的必要設計。
電腦維修店不想說的秘密!9個Windows隱藏指令,10分鐘省下5,000元
10 min
GitHub 熱點中文6月5日

電腦維修店不想說的秘密!9個Windows隱藏指令,10分鐘省下5,000元

YAHA学堂

  • 必須以系統管理員身份執行 Windows Terminal,標題列要看見「系統管理員」字樣;打錯指令不會造成損害,只會跳出紅字錯誤訊息。
  • 軟體和系統層修復(winget、sfc、DISM)是環環相扣的,若 sfc 找到無法修復的問題,DISM 能深層修復;DISM 需要穩定網路且耗時較長,進度卡住是正常的,不可強制中止。
  • DNS 快取、IP 位址、TCP 連線狀態這三項網路設定相互關聯,清除快取、釋放並重新取得 IP 位址、重置 Winsock 元件這三個指令應連發執行,完成後一定要重開機才生效。
Full Disclosure, Full Colour: Story of This Years BBV Badge by Abhinav Pandagale | BBV, DEF CON 33
21 min
AI 技術英文6月5日

Full Disclosure, Full Colour: Story of This Years BBV Badge by Abhinav Pandagale | BBV, DEF CON 33

Bug Bounty Village

  • 三明svensk結構設計:PCB層承載所有電路與背面LED陣列,丙烯酸層刻有駭客標誌,以螺栓間隔件分層固定,實現立體3D視覺效果,且保留開源重新編程能力供使用者自訂。
  • UV印刷工藝的進化:自2013年開發的技術相比傳統PCB板印刷更靈活快速,今年機器可在2英尺×3英尺床面單批次印刷60-70個徽章用時30分鐘,並新增透明保護層強化環境耐久性,但初期出現塗層剝落缺陷。
  • CTF競賽整合:四個底部按鈕對應四個二進位標誌位,輸入正確標誌解鎖對應LED燈,短按可預覽解鎖效果,大幅提升徽章的教育性與互動價值。
Learn English Speaking Practice Course | Daily English Conversation Shadowing - B1 Level 🎧
20 min
英文學習英文6月5日

Learn English Speaking Practice Course | Daily English Conversation Shadowing - B1 Level 🎧

English Easy Practice

  • 情境學習打造自然表達:影片以湯姆無償教鄰居孩子英文的故事為框架,展示真實日常對話,讓學習者在實際語境中理解英語,而非機械背誦。
  • 系統化詞彙教學搭配例句:精選 change、must have、grow 等常用詞彙,每個詞都配套具體例句(如「優秀教師能改變學生人生」)幫助理解和記憶,同時示範實際用法。
  • 分層練習法最大化學習效果:採用跟讀(慢速+正常速度)、問答、影子練習三個階段,層層遞進地鍛鍊發音、理解、反應速度,讓學習者在重複中自然內化。
Microsoft's Bug Bounty Betrayal Puts Everyone in Danger
10 min
Web2 安全中文6月5日

Microsoft's Bug Bounty Betrayal Puts Everyone in Danger

Mental Outlaw

  • 漏洞賞金經濟的三贏邏輯崩潰:漏洞賞金制度原意是讓研究人員、軟體供應商和使用者三方受益。當微軟拒絕支付報酬、拒絕承認漏洞真實性,這套系統就破裂了,激勵機制完全失效。
  • 研究人員被迫選擇更危險的路徑:被微軟封鎖帳號後,研究人員無法透過官方管道報告漏洞。他們最終發布到GitHub是為了發出警報,相比之下,轉向暗網私下出售漏洞給犯罪集團反而對全體用戶威脅更大。
  • 封鎖帳號製造虛假的安全感:微軟封鎖Nightmare Eclipse在GitHub和GitLab的帳號,假裝能阻止漏洞被利用。實際上公開PoC至少讓系統管理員有機會在自己的環境裡測試和防禦;完全禁言只會把漏洞趕到執法機構控制不了的暗網。

6月4日星期四

7
Claude Opus 4.6 越狱失败?这个“问题拆分法”成功率超高!实操教程
7 min
AI 安全中文6月4日

Claude Opus 4.6 越狱失败?这个“问题拆分法”成功率超高!实操教程

yuangeAI

  • 現有提示詞庫是起點,不是終點:GitHub 上雖有集中維護的越獄提示詞庫,但多數針對 Claude 已失效,需在此基礎上二次優化,不能直接套用。
  • 用 AI 對抗 AI 是核心思路:講者以 Claude Code 搭配 DeepSeek V4 Pro 對失效提示詞進行整合與歸納,並將模型拒絕回答的原始訊息餵回模型,讓模型自行修正,形成「以模型調試模型」的迭代迴圈。
  • 「輕越獄」本質是語義重構:不直接提問敏感內容,而是把一個違禁問題拆解為兩個表面合規的子問題——第一問建立身份背景(如安全工程師角色),第二問索取技術細節——使模型在不觸發安全規則的情況下輸出答案。
AI Voice Cloning Is the Most Dangerous Phishing Attack Yet
18 min
AI 技術中文6月4日

AI Voice Cloning Is the Most Dangerous Phishing Attack Yet

Breach Report

  • 1. 釣魚攻擊的核心從未改變:在理性啟動之前先觸發情緒。
  • 從 2000 年的「ILOVEYOU」病毒到今日的深偽視訊,所有攻擊都遵循同一邏輯:用緊迫感、焦慮、或信任感讓目標在思考前先行動,技術只是讓這個觸發點愈來愈難以識破。
  • 2. AI 系統性消滅了過去所有可辨識的破綻(tells)。
Snyk内部审计首次披露:你的AI技能可能在一次静默更新后,悄悄偷走AWS密钥
6 min
AI 安全中文6月4日

Snyk内部审计首次披露:你的AI技能可能在一次静默更新后,悄悄偷走AWS密钥

Andrej Karpathy's RSS 订阅清单

  • AI 技能是超級包管理器客戶端,攻擊面倍增。 一份技能清單文件可同時調用 Node、UV、Python、Homebrew 四個包管理器,等於把過去十年包管理器生態的所有安全威脅全部引入單一加載路徑;傳統的 `--ignore-scripts` 等防護旗標無法跨包管理器統一設置,配置滯後直接敞開代碼執行的大門。
  • 代碼執行與提示詞注入在架構層面被強行綁定。 大部分加載器預設把已安裝技能的描述文本注入系統提示詞,這意味著惡意指令無需使用者觸發技能即可完成注入;有效載荷從「確定的位元組」變為「模糊的自然語言」,傳統靜態掃描器對此完全失明,現有注冊表安全審查淪為合規劇場。
  • 弱鎖定與靜默升級機制讓版本信任失效。 鎖定文件記錄技能名稱而非哈希,版本 1.0.0 隔天可能解析到全新擁有者的代碼;一個小版本更新在 `require *` 的環境變量字段中悄悄加入 AWS 密鑰讀取權限,因授權綁定在名稱上,該變更無需任何確認彈窗即直接生效。
AI Agent 上桌了:你吃的是龍蝦,還是被龍蝦吃?|蔡松廷 杜浦數位安全 創辦人暨執行長|2026 叡揚 Solutions Day
30 min
AI 安全中文6月4日

AI Agent 上桌了:你吃的是龍蝦,還是被龍蝦吃?|蔡松廷 杜浦數位安全 創辦人暨執行長|2026 叡揚 Solutions Day

叡揚資訊

  • AI Agent 的本質改變了攻擊面
  • 過去 LLM 只是瀏覽器內的問答機器人,現在 Agent 長出手腳、擁有記憶、可主動執行系統指令,並通常被賦予最高權限與大量 Token,使得攻擊者只需污染 Prompt、Skills 或 Tool Output 其中一環即可接管整個執行流程。
  • 「能力超強但不負責任」是核心風險
How Crowd Safety And Control Can Be Analyzed Using AI | COMPUTEX 2026
12 min
AI 技術中文6月4日

How Crowd Safety And Control Can Be Analyzed Using AI | COMPUTEX 2026

TaiwanPlus Docs

  • 從被動錄影到主動防禦:傳統監控攝影機只是電子錄影機,事後才回放調查;AI 視訊系統能即時理解現場狀況,讓操作人員在事件發生前提前介入,這是整個典範轉移的核心邏輯。
  • 體態特徵彌補人臉辨識盲點:在擁擠場所中,目標人物可能背對攝影機或遮臉,純人臉辨識會失效;結合衣著顏色、背影輪廓、年齡體型等體態資訊,可在整個攝影機網路中持續鎖定目標,不因鏡頭角度受限。
  • 目的性部署降低「全面監控」疑慮:系統並非持續追蹤所有人的日常行為,而是針對特定任務觸發(如闖入禁區、黑名單人員出現),讓技術手段與使用目的保持高度對應,是說服公眾接受的關鍵論述。
Black Hat Europe 2025 | Network Operations Center (NOC) Report
42 min
Web2 安全英文6月4日

Black Hat Europe 2025 | Network Operations Center (NOC) Report

Black Hat

  • NOC 的核心價值在於完全控制網路基礎設施。 主辦方不仰賴場館設備,自行部署全套路由、防火牆、交換機與 AP,目的是在威脅發生時能即時應對,而非等候場館 90 分鐘後才派人處理。
  • 合作夥伴的選擇完全基於技術標準,不接受贊助換名額。 曾有廠商開出六位數支票換取設備進駐,被拒絕;這些競爭對手廠商的產品因此在 Black Hat 這個極端環境中實際互相整合,產品缺陷因此被快速發現並改善。
  • Black Hat 網路是「針堆找針」而非「大海撈針」,這反而是優勢。 由於大量流量本身就是惡意或攻擊性的,NOC 能藉此辨別「正常的惡意」與「真正的威脅」,並輔以 AI 智能體(Precog)自動分類關閉黑帽課程場景內的預期攻擊行為。
Black Hat Europe 2025 | Weaponizing Image Scaling Against Production AI Systems
35 min
AI 安全英文6月4日

Black Hat Europe 2025 | Weaponizing Image Scaling Against Production AI Systems

Black Hat

  • 縮放演算法的數學本質即漏洞根源:Nyquist-Shannon 取樣定理指出,低於臨界取樣率時,一個信號會被「混疊」成另一個信號。不同縮放演算法(bicubic、bilinear、Lanczos、nearest neighbor)各有不同的混疊特徵,可透過黑盒指紋識別來鎖定目標系統所使用的函式庫(Pillow、OpenCV、PyTorch),進而精準構造攻擊圖像。
  • 嵌入策略決定攻擊的隱蔽性:人眼對暗部像素變化不敏感,且對紅色通道的感知弱於綠色通道;文字檢測系統對藍色通道的加權也極低,導致需要更大擾動才能使藍色文字可讀。因此優先在圖像暗部的紅色通道嵌入擾動,可在機器可讀與人眼不可見之間取得最佳平衡。
  • 神經音訊編解碼器引入更難防禦的非線性混疊:傳統音訊反混疊濾波器(低通濾波器)可增加 tap 數來抵抗語義混疊,但神經編解碼器(Meta EnCodec、Google SoundStream)的學習式表示會主動「腦補」補全語音特徵,使攻擊者得以利用超聲波(>20 kHz)載波配合振幅調變,在模型處理後重建可辨識語音,比純語義混疊多產生 3–5 倍的語音關鍵頻段能量。