KeyFrame內部研究專用

每日情報

每日新聞精選,AI 整理摘要與乾貨重點

2026-08-13

Web2安全

15

AI輔助發現SharePoint漏洞鏈,可讓攻擊者冒充使用者並執行任意程式碼。

原標題:Researchers Disclose AI-Assisted SharePoint Exploit Chain Reaching ...

  • CVE-2026-55040讓未經驗證攻擊者冒充合法使用者身分
  • 可串連CVE-2026-63520達成遠端程式碼執行
  • 研究人員運用AI輔助分析找出這條漏洞利用鏈
DiscordDiscord也相關:AI技術

微軟SharePoint爆兩項漏洞可串連利用,未經驗證攻擊者能遠端執行任意程式碼。

原標題:兩個SharePoint資安漏洞可被串連,未經身分驗證的攻擊者可遠端執行任意程式碼 - iThome

  • 兩個SharePoint資安漏洞可被鏈式串連(chained exploitation)形成完整攻擊路徑。
  • 攻擊者無需事先取得帳號權限,即可未經身分驗證發動攻擊。
  • 成功利用可達成遠端程式碼執行(RCE),風險等級高。
  • 企業內部或雲端部署的SharePoint伺服器皆可能受影響,建議儘速確認修補狀態。

北韓 Lazarus 集團利用 Windows 零時差漏洞入侵國防航太業者部署惡意程式。

原標題:Lazarus Exploits Windows Zero-Day to Gain SYSTEM Access and Deploy ...

  • Lazarus 駭客集團濫用 CVE-2026-68820 作為零時差漏洞取得 SYSTEM 最高權限。
  • 攻擊目標鎖定國防與航太產業相關企業。
  • 成功入侵後於受害系統部署名為 Troy 的惡意程式。
Discord也相關:AI安全

北韓拉撒路組織利用 Windows 零時差漏洞,鎖定國防航太業竊取系統權限

原標題:The Hacker News (@TheHackersNews)

  • 攻擊者以「夢幻工作」為餌,偽裝招募訊息鎖定國防與航太產業目標
  • CVE-2026-68820 零時差漏洞被用於提權,取得 SYSTEM 層級存取權
  • 另一攻擊鏈透過木馬化 PDF 閱讀器,植入新型 Troy 後門程式
Discord也相關:AI安全

AMD SEV-SNP機密運算爆出KVM堆積越界漏洞,上游已修補並公開分析。

原標題:CVE-2026-53360: KVM SEV-SNP guest-to-host heap OOB and analysis of the upstream fix

  • CVE-2026-53360為KVM搭配AMD SEV-SNP機密運算時的guest-to-host堆積越界(heap OOB)漏洞
  • 漏洞發生在guest虛擬機與host之間的資料路徑,惡意guest可能藉此寫入或讀取host端記憶體
  • 影響採用SEV-SNP機密虛擬機技術的雲端與虛擬化平台,涉及信任邊界被突破的風險
  • Linux核心上游已釋出修補程式,並附上技術分析說明成因與修復邏輯
  • 屬於虛擬化層級的高權限漏洞,攻擊者需具備惡意guest VM控制權才能觸發

駭客利用VMware vCenter漏洞植入後門,橫跨47國逾361個IP受害

原標題:The Hacker News (@TheHackersNews)

  • 攻擊者利用CVE-2026-59310漏洞入侵VMware vCenter伺服器取得初始存取權限
  • 入侵後在系統植入惡意cron排程工作,藉此長期維持存取
  • 該排程執行reverse_ssh工具,建立持久化的反向連線後門
  • 研究人員已在47個國家識別出多達361個受害IP位址
  • 攻擊具高度隱蔽性,透過合法排程機制掩護惡意連線活動

SAP Commerce Cloud爆滿分漏洞,未授權攻擊者可遠端執行任意程式碼

原標題:The Hacker News (@TheHackersNews)

  • CVE-2026-58231,CVSS滿分10.0,屬於極高風險漏洞。
  • 未授權攻擊者可濫用預設驗證client,搭配惡意輸入觸發漏洞。
  • SAP已釋出修補程式,建議儘速套用並重新部署系統。

微軟修補的RoguePlanet漏洞,研究員又爆出繞過修補的新零時差漏洞。

原標題:The Hacker News (@TheHackersNews)

  • 研究員發布新PoC「ShieldBreak」,宣稱完全繞過CVE-2026-50656的官方修補。
  • 底層漏洞可讓攻擊者取得Windows SYSTEM層級權限,屬高風險提權漏洞。
  • 這是同一研究員繼RoguePlanet後,針對Defender再度公開的第二個零時差漏洞。
Discord也相關:AI安全

微軟8月修補398個漏洞,含一個已遭利用的Windows零時差漏洞。

原標題:The Hacker News (@TheHackersNews)

  • 本月修補398個漏洞,其中一個Windows零時差漏洞已遭實際攻擊利用。
  • CVE-2026-68820可讓已具程式碼執行權的攻擊者提權至SYSTEM層級。
  • 另有四個未經身分驗證、CVSS達9.8分的高風險遠端程式碼執行漏洞。
  • 本次更新同時修補SharePoint攻擊鏈中遠端程式碼執行的部分。

研究人員串聯兩個漏洞,免帳密即可冒充管理員在伺服器執行程式碼。

原標題:The Hacker News (@TheHackersNews)

  • 漏洞編號為CVE-2026-55040與CVE-2026-63520,屬於SharePoint相關安全缺陷。
  • 攻擊者無需任何SharePoint憑證,即可假冒管理員身分。
  • 兩漏洞串聯後可達成未授權使用者冒充,進而在伺服器端執行任意程式碼。
Discord也相關:AI技術

華紙公告資安長人事異動,反映上市企業資安治理層調整。

原標題:華紙:公告本公司資安長異動 - 鉅亨網

  • 華紙(華紙股份有限公司)公告資安長(CISO)一職發生人事異動。
  • 資安長異動屬上市公司重大訊息,須依規定對外公告揭露股東與市場。
  • 反映企業對資安治理與內控合規要求日益重視,強化資安領導層任免透明度。

微軟8月修補約400個漏洞,北韓駭客組織Lazarus已被證實利用其中零時差漏洞發動攻擊。

原標題:微軟8月修補400個漏洞北韓駭客Lazarus已利用零時差漏洞攻擊

  • 微軟8月例行更新一次修補約400個安全漏洞,規模為近期少見的大批次。
  • 北韓國家級駭客團體Lazarus被指出已搶先利用其中至少一個零時差漏洞進行攻擊。
  • 零時差漏洞代表在官方釋出修補前已遭實際利用,受害系統風險極高。
  • 企業與IT管理者應優先評估並儘速套用本次更新,降低被入侵機率。

駭客集團Storm-1175疑似藉N-central漏洞入侵,投放新型勒索軟體StormEncryptor。

原標題:駭客集團Storm-1175 疑似利用N-central 漏洞,部署新型勒索軟體StormEncryptor

  • 攻擊者疑利用N-central遠端監控管理系統的安全漏洞作為入侵管道
  • 駭客集團Storm-1175涉嫌部署名為StormEncryptor的新型勒索軟體
  • 攻擊鎖定具遠端管理權限的系統,可能波及使用該平台的多家企業客戶
  • 事件凸顯RMM(遠端監控管理)工具漏洞遭勒索軟體集團利用的資安風險
Discord也相關:AI安全

CVE計畫規劃自動化與全球化機制,因應AI引發的漏洞通報暴增危機。

原標題:CVE Program eyes automation and globalization to weather AI 'vulnpocalypse' | Cybersecurity Dive

  • CVE Program正評估導入自動化流程,加速漏洞審核與編號分派效率。
  • 同時推動全球化架構,讓更多地區組織能分攤漏洞通報與驗證工作。
  • 背景是AI工具生成程式碼與漏洞掃描報告數量暴增,形成所謂「vulnpocalypse」。
  • 現行人工審核模式恐難負荷未來漏洞通報量的爆炸性成長。
Discord也相關:AI技術

加拿大醫院遭勒索軟體攻擊,門禁、電梯與空調系統全數癱瘓。

原標題:Ransomware Attack disrupts Hospital Doors, Elevators, Ventilation and Air Conditioning in Canada

  • 勒索軟體入侵加拿大一間醫院的內部系統,導致實體設施運作中斷。
  • 受影響設施包含病房門禁、電梯與通風空調系統,衝擊醫院日常運作。
  • 醫療機構的作業系統(OT)與 IT 系統整合度高,一旦遭駭容易波及實體設備安全。
  • 事件凸顯關鍵醫療基礎設施在資安防護與備援機制上的脆弱性。

Web3安全

6

駭客把惡意程式基礎設施藏在Polygon區塊鏈上,誘騙受害者主動執行惡意程式碼。

原標題:Hackers Hide Malware Infrastructure on Polygon Blockchain and Trick Users Into Running It ...

  • 利用Polygon智能合約儲存惡意程式碼或指令,躲避傳統偵測與下架機制。
  • 攻擊者透過社交工程手法,誘騙使用者自行複製貼上並執行惡意指令。
  • 區塊鏈資料不可篡改特性,讓惡意基礎設施更難被安全單位封鎖或移除。
  • 手法與EtherHiding類似技術相近,近期常見於供應鏈攻擊與釣魚攻擊場景。
Discord也相關:Web2安全

XRPL 跨鏈橋遭利用存款驗證漏洞,損失近20萬美元XRP。

原標題:TheNewsCrypto (@The_NewsCrypto)

  • 攻擊者利用存款驗證機制漏洞,盜取近20萬美元等值XRP。
  • 被盜資金已轉換成ETH,增加追查與凍結難度。
  • XRPL 橋接功能已全面暫停,等待安全升級與資產追回評估。
  • 受害方已向FBI IC3(網路犯罪申訴中心)提出正式檢舉。

BlockThreat週報揭露單週14起攻擊損失1500萬美元,北韓駭客手法再升級

原標題:BlockThreat (@blockthreat)

  • 本週共14起資安事件,合計損失金額達1500萬美元
  • 多個比特幣相關專案遭受攻擊,資產安全亮紅燈
  • 釣魚攻擊集團濫用主流廣告平台投放惡意連結誘騙用戶
  • 報告揭露北韓(DPRK)駭客組織最新攻擊手法與趨勢

Harmony Protocol 遭駭客攻擊,非法增發約40億枚ONE代幣。

原標題:PeckShieldAlert (@PeckShieldAlert)

  • 攻擊者非法鑄造約40億枚$ONE代幣,屬於智能合約鑄幣漏洞攻擊。
  • 事件曝光後$ONE代幣價格重挫約36%,市場信心明顯受挫。
  • Harmony Protocol官方已在Twitter/X上證實此次攻擊事件。

Harmony 協定遭利用漏洞,攻擊者非法鑄造數十億顆 ONE 代幣。

原標題:CertiK Alert (@CertiKAlert)

  • CertiK 監測到 Harmony Protocol 遭利用漏洞攻擊。
  • 攻擊者透過漏洞非法鑄造數十億枚 $ONE 代幣至多個地址。
  • Harmony 團隊已採取行動,正嘗試凍結相關被盜資金。

Hypernative執行長談交易前地址篩查機制,並發布Web3安全完整指南。

原標題:HypernativeLabs (@HypernativeLabs)

  • Hypernative共同創辦人GalSagie於《The Future of Crypto Compliance》節目說明偵測機制運作方式。
  • 核心主張為交易前(pre-signing)攔截風險地址,而非損失發生後才處理。
  • 發布免費電子書《The Ultimate Guide to Web3 Security》,涵蓋機構、基礎設施建置者與用戶端平台所需安控措施。
  • 內容涵蓋交易全生命週期,從簽署前提示、即時對手方篩查到自動化應變。
Discord也相關:AI安全

AI安全

25

OpenAI擴大Daybreak資安計畫,推新模型協助防禦端加速修補漏洞。

原標題:OpenAI擴大Daybreak資安計畫新模型助攻防禦端補漏洞 - DIGITIMES

  • OpenAI擴大旗下Daybreak資安計畫規模,鎖定強化企業防禦能力。
  • 新推出模型聚焦協助資安團隊更快找出並修補系統漏洞。
  • 計畫定位為防禦導向,透過AI輔助降低攻防資訊不對稱。
  • 反映OpenAI持續將旗艦模型能力延伸至資安實務應用場景。
DiscordDiscordDiscord也相關:AI技術

AI失控駭客事件掀資安投資熱,Palo Alto、CrowdStrike可望受惠。

原標題:AI驚傳脫序駭客事件!資安成下一波投資熱潮專家點名Palo Alto、CrowdStrike率先受惠

  • AI相關駭客攻擊事件被指出現失控跡象,引發市場對資安風險的關注。
  • 市場專家預期資安產業將成為下一波投資熱潮,資金可能大量湧入。
  • Palo Alto Networks 與 CrowdStrike 被點名為率先受惠的資安龍頭股。
  • 事件凸顯AI技術遭濫用於攻擊行為,恐加速企業提升資安防護預算。
DiscordDiscordDiscord也相關:AI技術也相關:Web2安全

親中駭客據報發動首例「自主式」AI 網攻,鎖定台灣目標

原標題:China-linked hackers hit Taiwan in unprecedented 'autonomous' AI cyber attack

  • (駭客組織疑似具中國背景,鎖定台灣發動網路攻擊行動)
  • (攻擊被形容為「自主式」,顯示 AI 可能主導或大幅參與攻擊決策與執行流程)
  • (若屬實將是 AI 自主發動網攻用於實際地緣政治對抗的指標性案例)
  • (凸顯 AI 技術降低網路攻擊門檻,對關鍵基礎設施與國安防禦構成新型威脅)
DiscordDiscord也相關:Web2安全

奧義資安攜手群聯電子簽,合作打造內建資安防護的AI基礎設施。

原標題:奧義賽博群聯電子簽策略合作推內建資安防護AI 基礎設施 - 經濟日報

  • 奧義資安(Cycraft)與群聯電子(Phison)宣布策略合作,聚焦AI基礎設施安全。
  • 合作方向為將資安防護能力內建於AI基礎設施架構中,屬於資安與AI技術結合的產業案例。
  • 報導來源為經濟日報,屬企業合作/產業新聞性質,具體技術細節未於標題揭露。
DiscordDiscord也相關:Web2安全

奧義賽博攜手群聯量產內建資安防護的主權AI,強化在地資料安全

原標題:奧義賽博攜手群聯量產內建資安防護的主權AI | 財經焦點- 太報TaiSounds

  • 奧義賽博與群聯電子合作,推出內建資安防護機制的主權AI解決方案
  • 主權AI概念強調資料自主與在地運算,避免敏感資訊外流至境外雲端
  • 產品結合資安防護與AI運算硬體,鎖定企業與政府對資料主權的需求
  • 反映台灣資安與半導體業者跨界合作,搶進AI基礎建設市場的趨勢
DiscordDiscord也相關:AI技術

AI加速攻擊演變衝擊傳統防禦,新創推企業即時資安防護方案

原標題:AI 加速攻擊演變,傳統防禦正面臨全新挑戰,Defense Trust 提供企業即時的資安防禦

  • AI技術降低攻擊門檻,加速惡意攻擊手法演化速度,衝擊既有資安防禦架構
  • 傳統防禦機制反應速度跟不上AI驅動攻擊,企業面臨新型態資安風險
  • Defense Trust推出即時資安防禦服務,鎖定企業客戶提供即時防護能力
  • 顯示資安產業正加速導入AI技術,強化偵測與應變效率因應新型威脅
DiscordDiscord也相關:AI技術

研究指出可從商用LLM API側錄竊取模型推理過程,凸顯資安隱憂。

原標題:Stealing Reasoning Traces from Proprietary LLM APIs

  • 針對OpenAI等專有LLM API,透過側通道方式萃取隱藏的推理鏈(reasoning trace)內容。
  • 可能利用API回應延遲、token計費或部分輸出等資訊反推模型內部思考步驟。
  • 攻擊者可藉此繞過廠商刻意隱藏推理過程的設計,取得未公開的模型行為細節。
  • 牽涉模型智慧財產權外洩與潛在的提示注入、越獄攻擊鏈延伸風險。
Hacker News· 680也相關:AI技術

分析 Amazon S3 Vectors 作為 LLM 檢索層時的安全模型與風險考量

原標題:A Security Analysis of Amazon S3 Vectors and Its Use in LLM Retriev...

  • 探討存取控制範圍是否足夠嚴謹,防止未授權存取向量資料
  • 分析輸入驗證機制,避免惡意內容或向量污染檢索結果
  • 檢視中繼資料(metadata)完整性,防止竄改影響檢索準確性
  • 討論稽核紀錄覆蓋度,是否足以追蹤異常存取與資料外洩
Discord也相關:AI技術

研究人員揭露 Amazon S3 Vectors 服務存在安全風險,恐遭用於 LLM RAG 資料下毒攻擊。

原標題:AISecHub (@AISecHub)

  • S3 Vectors 是 Amazon 用於向量儲存的服務,被發現可能成為 RAG 系統的攻擊面。
  • 攻擊者可利用該弱點對 LLM 的檢索增強生成(RAG)資料進行下毒。
  • 資料下毒可能導致 LLM 回答被惡意操控,影響下游應用的可信度。
Discord也相關:AI技術

文章探討如何偵測與治理企業內部未經授權使用的影子AI工具。

原標題:How to detect and govern shadow AI in your organization - Acronis

  • 討論企業員工私自使用未經核准AI工具(Shadow AI)帶來的資安風險。
  • 說明資安團隊可用的偵測方法,找出組織內未受管控的AI使用情況。
  • 提出治理框架建議,協助企業建立AI使用政策與監控機制。
Discord也相關:AI技術

影片探討AI工具正被用於改變網路犯罪的攻擊目標與竊資手法。

原標題:AI in cybercrimes: AI-enabled tools reshaping targets and methods of data theft - YouTube

  • 影片主題聚焦AI技術如何被濫用於強化資料竊取等網路犯罪活動。
  • 內容可能涵蓋AI如何協助鎖定新型攻擊目標並改變傳統犯罪手法。
  • 反映資安圈對AI雙面刃特性的關注,攻防雙方都在利用AI技術。
Discord也相關:AI技術

OpenAI、Anthropic、Google的API漏洞讓較弱AI模型還原加密推理內容並洩露機密

原標題:OpenAI, Anthropic, Google API Flaw Let Weaker AI Models Decode Stro...

  • 漏洞存在於三大廠商API可重放的加密推理區塊機制設計
  • 研究人員利用較弱的AI模型解碼強模型的加密推理內容
  • 攻擊者可從公開日誌紀錄中還原出API金鑰與密碼等敏感資訊
  • 廠商回應稱主要的資訊擷取攻擊手法目前已完成緩解修補
Discord也相關:AI技術

研究人員讓較弱AI破解強模型隱藏推理,還從API日誌中挖出洩漏的密鑰。

原標題:The Hacker News (@TheHackersNews)

  • 研究人員找到方法,讓較弱的AI模型解讀出較強模型的隱藏推理過程。
  • 從OpenAI、Anthropic、Google的API中提取出隱藏推理痕跡。
  • 在公開分享的AI代理日誌中,回收到外洩的API金鑰、密碼等機密憑證。
  • 凸顯AI推理過程若未妥善遮蔽,恐成為機敏資訊外洩的新管道。
Discord也相關:AI技術

OpenAI發布專攻網路攻擊測試的GPT-5.6-Cyber模型,任務完成率高達95%。

原標題:OpenAI 推攻擊級資安模型GPT-5.6-Cyber:完成率95% | 鏈新聞ABMedia

  • OpenAI推出新一代資安模型GPT-5.6-Cyber,主打攻擊性滲透測試能力。
  • 該模型在資安攻擊任務的完成率達95%,展現高度自動化攻擊能力。
  • 攻擊級AI模型可用於紅隊演練與防禦強化,但也存在被惡意濫用的風險。
  • 消息來源為鏈新聞ABMedia,反映AI在資安攻防領域的快速演進。
Discord也相關:AI技術

AI代理展現驚人駭客能力,促使企業加速投資資安防禦

原標題:AI agents' 'alarming' hacking skills creates rush to spend on cybersecurity - CNBC

  • CNBC報導指出AI agent的自動化滲透與攻擊能力已達「令人警戒」的程度
  • 企業與資安廠商因此加快評估並採購AI驅動的防禦與偵測工具
  • 反映AI技術快速演進,攻防兩端能力同步提升,資安支出預期成長
  • 突顯AI agent可能被用於自動化尋找漏洞、撰寫惡意程式或執行滲透測試
Discord也相關:AI技術也相關:Web2安全

日本企業用AI加速開發卻衍生資安隱憂,控管機制成導入成敗關鍵。

原標題:日企靠AI 加速開發卻陷資安困境控管機制成企業導入關鍵 - 獨家報導

  • 日本企業廣泛導入AI工具加速軟體開發流程,同時衍生新的資安風險與弱點。
  • 開發速度提升但資安審查跟不上,程式碼品質與安全把關出現缺口。
  • 企業導入AI開發工具時,內部控管機制被視為降低資安風險的關鍵因素。
  • 若缺乏完善治理框架,AI生成程式碼恐引入漏洞或洩露敏感資訊。
Discord也相關:AI技術

專家示警自主AI駭客技術興起,恐大幅降低網路攻擊門檻與人力成本。

原標題:'A concern to all': Should you worry about autonomous AI hacks? Experts explain

  • 自主AI系統可自動化執行入侵、掃描漏洞與滲透攻擊,減少人為介入需求。
  • 資安專家警告此趨勢恐讓攻擊者以更低成本、更快速度發動大規模攻擊。
  • 議題凸顯AI技術進展與資安防禦能力之間的落差,企業防禦策略需同步升級。
  • 報導聚焦於自主AI武器化對整體網路安全生態帶來的潛在系統性風險。
Discord也相關:AI技術

企業導入影子AI與MCP協定,攻擊面正在悄悄擴大帶來新風險。

原標題:The Invisible Expansion of the Attack Surface: Shadow AI, MCP, and Third-Party Risk

  • Shadow AI(未經授權的AI工具使用)成為企業難以掌握的隱形風險來源。
  • MCP(Model Context Protocol)串接第三方服務,擴大潛在攻擊入口與資料外洩面。
  • 第三方AI供應商與外掛整合增加供應鏈風險,難以用傳統資安框架涵蓋。
  • 文章聚焦攻擊面管理需納入AI相關新興風險,呼籲企業重新評估防護策略。
Discord也相關:AI技術也相關:Web2安全

AI帶來的資安威脅暴增,讓資安主管決策疲乏、難以優先排序應對。

原標題:AI cyber threats give security leaders decision fatigue - Axios

  • AI技術快速演進使攻擊面與威脅類型大幅增加,資安團隊難以逐一評估
  • 資安主管面臨過多警訊與工具選項,出現決策疲勞,影響應變效率
  • 企業投資AI防禦工具的同時,也需承擔評估與整合這些工具的額外負擔
  • 凸顯資安人才與資源有限下,AI威脅治理策略亟需簡化與優先排序
Discord也相關:AI技術

非營利組織將結合AI技術,協助地方政府強化資安防護能力

原標題:With aid of AI, nonprofit will offer cybersecurity assistance to local governments | StateScoop

  • 非營利組織推出以AI輔助的資安協助計畫,鎖定地方政府單位提供支援。
  • 地方政府普遍面臨資安預算與人力不足問題,容易成為攻擊目標。
  • 運用AI技術可望提升威脅偵測與應變效率,降低人力負擔。
Discord也相關:Web2安全

AI實驗室想放慢高風險模型測試腳步,但恐怕為時已晚。

原標題:AI labs want to slow down risky model testing. It may be too late. - POLITICO

  • 報導指出各大AI實驗室希望放緩對高風險模型的測試與部署速度
  • 商業競爭與市場搶先壓力可能已讓安全煞車措施難以落實
  • 凸顯AI產業在快速迭代與風險評估之間的根本性矛盾
  • 反映業界對模型安全治理機制是否來得及跟上發展速度的憂慮
Discord也相關:AI技術

新攻擊MarkNull可通用移除AI生圖浮水印,且不明顯破壞畫質

原標題:MarkNull: Model-Agnostic Watermark Removal in AI-Generated Images via On-Manifold Latent Manipulation

  • 提出模型無關的浮水印移除攻擊MarkNull,可跨不同生成模型使用
  • 核心方法為在潛在空間流形上操作,切斷生成潛在表示與嵌入初始雜訊的統計關聯
  • 提出Noise-Latent Alignment Score量化雜訊與潛在表示的相依性,作為優化目標
  • 攻擊在移除浮水印的同時盡量保留圖像語意與視覺品質,避免明顯畫質劣化
  • 凸顯現有AI生圖浮水印技術在來源溯源與版權歸屬上的穩健性不足
arXiv也相關:AI技術

新方法即時攔截串流LLM輸出中危險詞組,兼顧安全與效能。

原標題:Withholding the Completing Chunk: Deterministic Pair-Completion Guardrails for Streaming LLM Output

  • 提出決定性防護機制,掃描已輸出前綴,攔截完成雙詞危險組合的區塊。
  • 次機制測試中,串流判斷與完整緩衝掃描結果一致,全數攔截危險組合。
  • 個單一詞彙控制組全數通過,未誤判無害內容。
  • 次策略比較中,全前綴掃描與完整緩衝偵測率100%,512字元視窗僅96/128。
  • 區塊局部掃描偵測率最低,僅38/128,顯示視窗越小漏偵率越高。
  • 對338則人工安全回應測試,誤判率為0,顯示低誤報風險。
arXiv也相關:AI技術

研究揭露LLM整合應用會把提示注入轉化為傳統網頁攻擊手法。

原標題:From Prompt Injection to Web Exploitation: Revisiting Classic Vulnerabilities in LLM-Integrated Applications

  • 提出「LLM-mediated web attacks」新攻擊類別,攻擊者輸入經LLM轉換後觸及後端敏感操作。
  • 系統化整理LLM2SQLi、LLM2XSS、LLM2SSTI等多種變種攻擊手法。
  • 涵蓋指令注入、IDOR、CSRF、XXE、SSRF等經典漏洞在LLM代理場景下的重現。
  • 分析指出LLM本身通常不製造漏洞,而是充當中介層或受騙的信任代理。
arXiv也相關:AI技術也相關:Web2安全

系統性回顧85篇論文顯示,AI代理攻擊研究遠超防禦,感知層漏洞占六成六。

原標題:On Understanding, Identifying, and Mitigating Vulnerabilities in Agentic Large Language Models

  • 依PRISMA準則篩選743篇文獻,保留2023至2025年85篇代理型LLM安全論文
  • 攻擊研究與防禦研究比例達3.9比1,顯示防禦端明顯落後
  • 感知層漏洞(提示注入、越獄、對抗擾動)占全部論文66%
  • 代理型LLM具備真實權限(API呼叫、檔案修改、資料庫查詢),錯誤推理恐致不可逆損害
arXiv也相關:AI技術

AI技術

16

探討 Go 語言為何特別適合搭配 AI 工具進行輔助軟體開發。

原標題:Why Go is an Ideal Language for AI-Assisted Software Engineering

  • 文章主題聚焦 Go 語言在 AI 輔助開發情境下的優勢與適用性。
  • 可能涉及 Go 語法簡潔、型別明確等特性有助於 AI 生成程式碼準確度。
  • 反映開發社群開始重新評估程式語言選擇在 AI 輔助工作流程下的角色。

Polymarket 預測市場押注2026年9月底AI模型競技場排名冠軍花落誰家

原標題:Will Thinky have the best AI model at the end of September 2026?

  • 以arena.ai Text Arena(Overall,關閉風格控制)2026年9月30日中午的排行榜為結算依據
  • 排名相同時依Arena分數精確值排序,再相同則依公司名稱字母順序決定
  • 若排行榜當日無法查詢,市場延後至恢復上線後首次查核結果結算
  • 若排行榜永久下線,市場將直接結算為「其他」

Polymarket 預測 Claude 模型能否在 HLE 測驗達到 75% 以上準確率

原標題:Will the highest score achieved by an Anthropic Claude model on Humanity’s Last Exam in 2026 be 75% or higher?

  • 市場押注 Anthropic Claude 模型在 2026 年底前於 Humanity's Last Exam 準確率是否達 75% 以上
  • 判定依據為 HLE 官方排行榜(agi.safe.ai)公布的「HLE Accuracy」數值,不採計校準誤差等其他指標
  • 若官方來源在期限內暫時無法存取,市場將延後結算等待數據恢復
  • 若來源永久失效且無官方替代數據可用,市場將直接判定為「No」
  • 截止時間為 2026 年 12 月 31 日美東時間晚上 11:59

探討AI工具正削弱軟體工程中階人才角色,衝擊產業技能結構

原標題:AI is removing the middle class of software engineering?

  • 討論AI輔助開發是否讓入門與資深工程師產出差距縮小
  • 論點聚焦AI是否正在壓縮軟體工程「中間層」職缺與價值
  • 反映業界對AI改變工程師職涯路徑與薪資結構的憂慮

Claude Chrome 版對話與技能將同步至桌面、網頁與行動裝置。

原標題:Claude (@claudeai)

  • Chrome 版 Claude 的對話紀錄可跨裝置延續,包含桌面、網頁與手機。
  • 使用中的技能(skills)與連接器(connectors)在瀏覽器中同步可用。
  • 目前開放給 Max 與 Team 方案用戶使用。
  • Pro 方案將於近期陸續開放此功能。

瑞安航空與Google Cloud簽五年合約,擴大在航空營運中導入AI技術。

原標題:Ryanair signs five-year Google Cloud deal, expands use of AI in airline operations - Reuters

  • 瑞安航空與Google Cloud簽署為期五年的雲端服務合約,強化雙方合作關係。
  • 合約內容聚焦擴大AI技術在航空營運各環節的實際應用。
  • 反映傳統航空業者加速透過雲端與AI技術提升營運效率與競爭力。
  • 顯示Google Cloud持續拓展企業級AI合作版圖,切入航空產業市場。

放射科醫師指出乳房攝影AI診斷輔助帶來的實質效益有限

原標題:Radiologists report relatively few 'meaningful' benefits from breast imaging AI

  • 研究對象為放射科醫師,評估乳房攝影AI輔助工具的臨床實用性
  • 多數醫師認為AI系統帶來的「有意義」效益相對稀少
  • 凸顯AI醫療影像工具在實際臨床導入與宣傳效果間存在落差
  • 可能影響醫療院所評估是否採購或持續投資乳房攝影AI系統

Google發表AMIE醫療AI最新進展,將問診能力延伸至視訊諮詢場景

原標題:AMIE: Advancing medical AI for video consultations - Google Blog

  • Google Blog介紹AMIE(Articulate Medical Intelligence Explorer)醫療AI系統的技術進展
  • 新版本聚焦於視訊問診情境,讓AI能處理多模態(視覺加語音)醫療對話
  • 延續AMIE先前在純文字問診測試中展現媲美醫師水準的診斷與溝通能力

Spotify將標示AI生成音樂人並移出推薦清單,以區隔真人創作者。

原標題:Spotify to distinguish AI artists from real people – and stop recommending them

  • Spotify宣布新增功能,標記由AI生成的「藝人」帳號,與真人音樂人做出區隔。
  • 被標記為AI生成的藝人內容,未來將不再出現在Spotify的演算法推薦或編輯歌單中。
  • 此舉回應音樂產業對串流平台AI生成內容氾濫、來源不透明的長期批評。
  • 反映各大平台在AI生成內容標示與版稅分配議題上,面臨越來越大的監管與創作者壓力。

美國圖森學區研議導入AI工具至中學與高中課堂教學

原標題:TUSD considers bringing AI tools to middle and high schoolers - YouTube

  • (討論將AI工具引入中學與高中教育現場)
  • (反映地方教育單位對AI教學應用的興趣升溫)
  • (涉及師生資料隱私、教學品質等後續配套議題)

房地產業者評估自建或採購AI工具,權衡導入策略與成本效益。

原標題:Real estate leaders weigh buying vs building AI tools - Housing Wire

  • 房仲與地產業界正討論該自行開發AI工具,還是採購第三方現成方案。
  • 議題核心在於自建的客製化彈性,與採購方案的速度和成本考量之間的取捨。
  • 反映AI工具在房地產產業的導入已成為業者策略規劃的重要一環。

AI基礎建設投資狂潮推升成本,讓聯準會抗通膨決策更棘手

原標題:AI's costly build-out complicates the Fed's inflation fight - CNBC

  • 科技業砸重金建置AI資料中心與晶片產能,帶動整體資本支出大幅攀升
  • 巨額AI相關支出可能推高電力、原物料與勞動力需求,形成新通膨壓力
  • 聯準會須將AI產業擴張速度納入評估,增加貨幣政策制定的不確定性

華盛頓觀察家刊出投書,籲高等教育正視AI素養測驗的重要性

原標題:“The AI Literacy Test Higher Education Must Not Fail” Op-Ed Featured in Washington Examiner

  • 投書標題強調高等教育不能在「AI素養測試」上失敗
  • 文章刊登於美國保守派媒體《華盛頓觀察家》(Washington Examiner)
  • 議題聚焦大學校園如何因應生成式AI對教學與評量的衝擊
  • 反映美國高教界對AI素養納入課程與評估標準的討論升溫

美國推出「創新中心」資助計畫,聚焦創意產業的AI與數位技能培訓。

原標題:Notice of Funding Opportunity: American Innovation Hub: AI & Digital Skills for the Creative ...

  • (1)此為政府資助機會公告,鎖定創意產業從業者的AI與數位技能培育。
  • (2)屬政策與人才培育類議題,反映官方對AI技能落地應用的重視。
  • (3)僅有標題資訊,實際資助金額、申請條件與截止日期需查原始公告確認。

GitHub 熱門專案「agency-agents」提供一整套 AI 代理人團隊,涵蓋多種專業角色

原標題:Trending GitHub Repositories (@trending_repos)

  • 單日新增 1,969 顆星,總星數已達 144,223
  • 提供一套完整的 AI agency,內建多種專職 AI 代理人(前端、社群經營、審查等角色)
  • 定位為多代理人協作框架,讓使用者一次取得多種功能型 AI 助手
  • 屬於 AI 應用/工具類專案,非資安或 Web3 相關

探討2026年打造AI代理人(AI Agent)的正確架構與開發方法

原標題:The Right Way to Build AI Agents in 2026

  • 影片聚焦AI Agent(代理人)系統的設計原則與最佳實踐
  • 內容可能涵蓋代理人的架構模式、工具串接與任務規劃邏輯
  • 反映2026年AI領域從單純聊天機器人轉向自主代理人的技術趨勢
  • 僅有標題,實際技術細節(如框架、模型選用)需觀看影片確認