KeyFrame內部研究專用
日報

每日情報

每日新聞精選,由 AI 整理成摘要與重點:Web2、Web3、AI 安全與 AI 技術,一頁讀完。

2026-11-14

Web2 安全

17 則

駭客利用 Check Point 閘道漏洞植入 TSGA 後門並破壞 ESXi 主機。

原標題:Hackers Exploit PHP2Shell Flaws in Check Point Gateways to Deploy T...

  • Check Point 閘道存在可被利用的安全漏洞,遭駭客實際攻擊。
  • 攻擊者透過漏洞植入名為 TSGA 的後門程式。
  • 部分入侵事件進一步演變成對 ESXi 主機的破壞性攻擊。
  • 顯示企業網路邊界裝置仍是攻擊者優先瞄準的入口點。

網擎策略投資微智安聯,攜手日本代理與靶場技術拓展海外資安事業

原標題:網擎資訊策略投資微智安聯,結合日本代理與「數位靶場」拓展海外資安市場

  • 網擎資訊宣佈策略投資微智安聯,強化資安事業佈局
  • 結合日本代理商資源,欲打通日本資安市場通路
  • 以「數位靶場」(CyberRange)作為訓練與展示主力技術
  • 目標為拓展海外資安市場版圖,強化國際競爭力

義大利MIMIT推出資安與雲端補助,協助中小微企業及自營業者強化防護

原標題:企業暨義大利製造部(MIMIT):啟動微中小企業及自營業者資安與雲端補助措施 - 經濟部國際貿易署

  • 義大利企業暨製造部(MIMIT)針對微型、中小企業及自營業者推出專項補助措施
  • 補助範圍涵蓋資安防護與雲端服務匯入,協助企業提升數位韌性
  • 反映歐盟成員國普遍透過政府補助強化中小企業資安基礎能力
  • 此類措施有助降低供應鏈資安風險,間接提升整體產業防護水準

北韓駭客偽造視訊通話詐騙,竊取逾四億美元加密貨幣資產

原標題:FBI Says North Korean Hackers Stole Over $400 Million in Crypto Usi...

  • FBI指北韓駭客組織假借FaceStealer行動,利用假視訊通話詐取受害者信任
  • 駭客藉此竊取超過四億美元加密貨幣,手法結合社交工程與惡意程式
  • 美國當局已查扣該詐騙行動相關基礎設施,試圖阻斷後續資金流動
  • 事件顯示北韓持續以加密貨幣竊盜作為規避制裁、籌措資金的重要手段

Trezor證實Safe 5錢包遭植入硬體後門,可竊取復原語句。

原標題:The Hacker News (@TheHackersNews)

  • Trezor承認部分「Safe 5」加密貨幣錢包含隱藏硬體植入裝置。
  • 問題錢包由前經銷商CryptoBilis銷售流出。
  • 植入裝置可竊取使用者的復原語句(recovery phrase)。
  • 竊得的資料會透過行動網路傳輸給攻擊者。
  • 韌體更新無法消除已經曝光的風險,受影響使用者須更換裝置。

攻擊者利用未修補 Check Point 裝置漏洞取得 root 許可權並刪除 ESXi 檔案。

原標題:The Hacker News (@TheHackersNews)

  • 駭客利用 Check Point 閘道器未修補的「PHP2Shell」漏洞進行攻擊。
  • 攻擊可取得受害裝置 root 許可權並植入隱蔽後門。
  • 攻擊者會進一步刪除 VMware ESXi 主機上的檔案。
  • 受害組織分佈全球,攻擊範圍廣泛。

資安圈老兵感嘆多數人連基礎防護都做不好,奢談進階漏洞利用更不切實際。

原標題:Cos(余弦)😶‍🌫️ (@evilcos)

  • (指出多陣列織基礎安全防護仍有大量缺口,尚未具備談進階漏洞利用的條件)
  • (強調進階攻擊手法在基礎防禦不足時反而形成「降維打擊」效果)
  • (提及AI技術正加速整體產業發展與攻防節奏)
  • (感嘆人性中的惰性與傲慢始終存在,難以隨技術進步而改善)
Discord也相關:AI 技術

駭客利用N-central漏洞攻陷21臺伺服器,植入XMRig挖礦病毒。

原標題:Hackers Exploit N-central Flaws to Infect 21 Servers, Including 19 ...

  • 攻擊者透過4EverAble2Shell漏洞入侵N-central系統,共攻陷21臺伺服器。
  • 其中19臺為N-able管理的伺服器,顯示供應鏈風險擴散至下游客戶。
  • 攻擊者在受害伺服器上部署XMRig挖礦程式,藉此盜用運算資源獲利。
  • N-able已限制相關功能並緊急呼籲使用者升級Agent與Probe版本以阻止攻擊。

駭客攻擊N-able N-central伺服器,部署加密貨幣挖礦程式。

原標題:The Hacker News (@TheHackersNews)

  • 已有21臺N-central伺服器遭入侵,其中19臺已套用Hotfix 2修補。
  • 攻擊者利用重大漏洞取得root許可權,進而植入加密貨幣挖礦程式。
  • 單靠Hotfix 2不足以完全防堵攻擊,管理員需額外採取防護措施。

日本無印良品系統改版未徹底清除資料,逾百萬信用卡號裸露逾五年才曝光。

原標題:日本無印良品資安出包!109萬筆信用卡號外洩,系統改版漏刪、未加密「裸奔」逾5年 - 數位時代

  • 受影響信用卡號約109萬筆,外洩時間長達逾5年未被發現。
  • 系統改版過程未刪除舊資料,相關資料亦未加密儲存。
  • 事件暴露企業資料生命週期管理與加密防護機制長期缺失。

大金空調零件商城外包廠商遭入侵,141筆訂單資料外洩受影響。

原標題:大金空調零件線上商城委外廠商發生資安事件,141筆訂單資料受波及 - iThome

  • 委外營運的大金空調零件線上商城發生資安事件,疑似第三方外包廠商系統遭入侵。
  • 事件影響約141筆訂單資料,可能涉及消費者個資或交易紀錄外洩。
  • 事件凸顯供應鏈與委外廠商資安管理風險,企業委外仍須承擔資料保護責任。

駭客集團UNC6783宣稱攻破資安院系統,竊走102GB機密資料。

原標題:駭客集團UNC6783聲稱入侵資安院竊得102 GB資料 - iThome

  • 駭客組織UNC6783聲稱成功入侵某資安院內部系統。
  • 宣稱竊取資料量高達102GB,規模相當龐大。
  • 事件凸顯資安機構本身也可能成為攻擊目標。
  • 目前詳情仍待官方證實與調查釐清。

Apache修補HTTP/2伺服器重大漏洞,防止攻擊者利用進行遠端攻擊。

原標題:【資安日報】11月13日,Apache修補網頁伺服器HTTP/2重大漏洞 - iThome

  • Apache網頁伺服器釋出修補,針對HTTP/2協定中的重大安全漏洞。
  • 漏洞若遭利用,可能導致伺服器遭受遠端攻擊或服務中斷。
  • 建議管理員儘速更新至修補版本,降低遭入侵風險。

微軟全球當機疑引連鎖效應,永豐銀資安問題曝光,資服股應聲大漲停。

原標題:微軟大當機、永豐銀遭駭資安問題升級資服股15檔噴漲停

  • 微軟發生大規模系統當機事件,影響範圍涵蓋全球多項服務。
  • 永豐銀行遭爆資安事件,相關資安問題持續升級受到關注。
  • 訊息帶動市場信心轉向資安防護需求,資服相關個股應聲走高。
  • 臺股資服股受訊息激勵,共有15檔個股衝上漲停板。

永豐銀行系統遭駭客入侵,金管會警告若盡職調查不足將依法開罰。

原標題:永豐銀系統被駭客入侵金管會若沒做好盡職調查將開罰 - 民報

  • 永豐銀行傳出系統遭駭客入侵,引發外界對銀行資安防護的關注。
  • 金管會強調銀行若未落實資安盡職調查,將面臨罰則。
  • 事件凸顯金融機構面對外部網路攻擊時的資安治理責任。
  • 後續需留意銀行是否公佈受影響客戶數與資料外洩範圍。

Linux基金會調查指出軟體交付速度已超過資安審查能力,近六成團隊跟不上。

原標題:Linux基金會調查揭軟體交付速度超過資安審查能力,近6成團隊跟不上 - iThome

  • Linux基金會最新調查揭露軟體交付速度與資安審查能力出現明顯落差。
  • 近六成受訪團隊表示資安審查速度跟不上開發與部署節奏。
  • 反映出CI/CD快速迭代與自動化部署下,傳統審查流程難以同步跟進。
  • 可能間接與AI輔助開發加速程式碼產出有關,進一步放大審查缺口。
  • 凸顯企業需強化自動化資安掃描與左移式(shift-left)安全實踐以縮小落差。
Discord也相關:AI 安全

攻擊者利用微軟 Teams 預約流程偽裝,包裝裝置程式碼釣魚手法竊取帳號。

原標題:Crafty Microsoft Teams Booking Flow Disguises Device Code Phishing - Huntress

  • 利用 Microsoft Teams 的 Booking(預約會議)功能作為釣魚誘餌介面。
  • 採用裝置程式碼(Device Code)驗證流程進行帳號接管攻擊。
  • 透過偽裝成正常排程邀請降低受害者警覺心,提升點選成功率。
  • Huntress 安全團隊揭露此攻擊手法並發出警告。

Web3 安全

16 則

駭客用被盜代理金鑰在Hyperliquid套利,鏈上喊話要求48000 USDC歸還

原標題:Defimon Alerts (@DefimonAlerts)

  • 攻擊者以被盜agent key操控帳戶,於11月9至10日非法獲利約48,000 USDC。
  • 贖款訊息要求72小時內歸還43,200 USDC,餘額作為白帽獎金。
  • 資金已透過SideShift流向追蹤至另一地址,案件已報警並通報Chainabuse、SEAL 911。
  • 受害方已申請凍結資金,並要求對方以鏈上訊息證明地址控制權才願協商。

CosmWasm智慧合約稽核學習路線圖,系統整理常見安全漏洞與審查方法。

原標題:jcsec-security/CosmWasm-audit-roadmap

  • 提供CosmWasm智慧合約審計入門到進階的學習路線圖。
  • 整理CosmWasm生態系常見的智慧合約安全漏洞型別。
  • 作為資安研究者快速上手Cosmos生態系審計的參考資源。

北韓駭客用深偽視訊會議詐騙,盜取超過四億美元加密貨幣。

原標題:The Hacker News (@TheHackersNews)

  • 北韓駭客透過偽造視訊通話與深偽技術,誘騙受害者安裝惡意程式。
  • 攻擊手法包含盜用帳號、冒用熟人臉孔、偽造音訊故障等社交工程手段。
  • 累積竊取金額超過四億美元加密貨幣,FBI 正式發出警告。
  • FBI 已查扣相關攻擊基礎設施,試圖阻斷後續犯罪行動。
Discord也相關:Web2 安全

印度國防研究組織委託曼加羅爾新創 Zupple Labs 進行區塊鏈安全稽核專案。

原標題:DRDO Awards Blockchain Security Auditing Project To Mangalore-Based Zupple Labs

  • 印度國防研究發展組織(DRDO)將區塊鏈安全稽核任務授予當地新創公司。
  • 得標業者 Zupple Labs 位於曼加羅爾,屬於國防相關技術供應鏈。
  • 案件涉及區塊鏈系統安全性檢測,可能用於國防或政府應用場景。

探討智慧合約暫停權機制在安全防護與治理去中心化之間的取捨爭議。

原標題:Smart Contract Pause Authority: Security vs Centralization - CoinGabbar

  • 暫停權(pause authority)讓團隊能緊急凍結合約以應對漏洞或攻擊事件。
  • 此機制同時賦予合約擁有者單方面中止使用者資金操作的能力,引發信任疑慮。
  • 文章聚焦於安全性與去中心化理想之間的核心矛盾。
  • 過度集中的暫停權可能被濫用或遭惡意鑰匙持有者劫持。
  • 多重簽名或時間鎖等治理設計被視為緩解風險的折衷方案。

加密貨幣開發職位面試過關者,入職後反成內部安全威脅來源。

原標題:The crypto developer who passes the interview and becomes the security threat

  • 透過招募與面試流程的開發者,被揭露實際上構成安全風險。
  • 暗示供應鏈或內部人員威脅模式,攻擊者偽裝成正職求職者滲透團隊。
  • 反映Web3專案在招聘環節缺乏足夠的身份與背景審查機制。
Discord也相關:Web2 安全

慢霧警示 Pennysia 以太坊結算合約存在漏洞,存在被利用風險。

原標題:慢雾 Warns of Exploit in Pennysia's Ethereum Settlement Contract - TokenPost

  • (慢霧安全團隊針對 Pennysia 的以太坊結算合約發出漏洞預警)
  • (Pennysia 為去中心化金融 DeFi 相關協議,結算合約涉及資金交割)
  • (漏洞若遭利用可能導致合約資產被盜取或結算流程遭操控)
  • (屬於智慧合約安全事件,建議相關使用者與專案方留意後續修補進度)

MANTRA因Web3Auth與Keplr遭疑似漏洞攻擊,暫停新的解除質押請求。

原標題:MANTRA halts new unstaking requests amid Web3Auth and Keplr exploit - Crypto Briefing

  • MANTRA平臺暫停新的unstaking(解除質押)請求。
  • 事件起因疑似與Web3Auth及Keplr錢包相關的漏洞攻擊有關。
  • 暫停措施屬緊急應變,目的是防止使用者資產進一步受影響。
  • 事件凸顯錢包基礎設施(Web3Auth、Keplr)安全性對DeFi協議的連帶風險。

MANTRA因駭客盜轄取消質押,緊急暫停新解質押請求七天。

原標題:The Block (@TheBlockCo)

  • MANTRA宣佈七天內暫停所有新的解除質押請求,防止損失擴大。
  • 攻擊者已開始解除質押使用者的$MANTRA代幣,疑似盜用帳戶所致。
  • 官方將此事件與Web3Auth及Keplr錢包的漏洞攻擊事件連結在一起。
  • 已在處理中的解除質押請求不受此次暫停措施影響,仍可正常完成。

MANTRA疑遭駭客利用Web3Auth-Keplr錯洞解押代幣,緊急暫停解鎖七天

原標題:Cointelegraph (@Cointelegraph)

  • MANTRA指出駭客透過Web3Auth-Keplr錢包整合漏洞,對使用者質押代幣進行非法解押
  • 專案方宣佈緊急啟動七天解鎖凍結機制,以阻止進一步資金損失
  • 事件暴露跨錢包整合層(錢包SDK與區塊鏈前端串接)的安全風險
  • 受影響使用者資產可能面臨暫時無法動用的流動性問題

幣安遭竊6.34億美元後補足資產並公開新一輪儲備證明快照。

原標題:Wu Blockchain (@WuBlockchain)

  • 幣安於10月29日遭駭損失約6.34億美元加密資產,已完全補足。
  • 月12日儲備快照顯示BTC持倉較11月4日增0.35%,約687,900顆。
  • ETH持倉增1.04%至348萬顆,USDT則減3.68%至243億顆。
  • BNB持倉增1.03%至4295萬顆,此次為臨時加查非常規月度審查。

北韓駭客於NEAR發迷因幣洗錢卻乏人問津,泰國擬限制穩定幣每日轉帳額度。

原標題:Cointelegraph (@Cointelegraph)

  • 北韓駭客在NEAR區塊鏈上發行迷因幣,試圖洗錢卻幾乎無人購買。
  • 泰國當局計畫將穩定幣每日轉帳上限訂為14.8萬美元。
  • 報導屬Cointelegraph亞洲加密快訊,涵蓋區域監管與駭客洗錢動態。

幣安完全補足6.3億美元遭竊資產,發布最新準備金證明快照。

原標題:Wu Blockchain (@WuBlockchain)

  • 幣安針對6.3億美元駭客事件已全額補足受影響資產缺口。
  • 發布新版儲備證明(PoR)快照,供使用者查核資產狀況。
  • 零知識證明生成後,使用者可獨立驗證資產至少達1:1準備金比例。
  • 事件凸顯交易所安全事故後的透明度與償付能力揭露趨勢。

美國司法部查扣北韓駭入幣安竊取資金中的十二億美元數位資產。

原標題:The Block (@TheBlockCo)

  • 美國司法部宣佈查扣十二億美元數位資產,與六十億美元幣安駭客事件有關。
  • 此行動旨在阻止北韓政府透過加密貨幣竊盜為非法武器計畫籌資。
  • 官員指控北韓政權長期靠網路犯罪與加密貨幣竊盜資助政權運作。

Arbitrum推出為期十二個月的安全計畫,媒合知名審計廠商協助鏈上專案。

原標題:Arbitrum Developers (@ArbitrumDevs)

  • Arbitrum Security Program為期12個月,支援建於Arbitrum平臺的專案完整安全生命週期
  • 入選專案可對接OpenZeppelin、Trail of Bits、Decurity、SecurityOak等知名智慧合約審計廠商
  • 聚焦智慧合約(smart contract)審計資源整合,強化鏈上產品安全性
  • 透過Tally表單公開徵件,申請連結已附於貼文內

銘傳大學辦第三屆Web3資安論壇,產官學聚焦虛擬資產追贓返還議題。

原標題:產官學齊聚銘傳第三屆WEB3資安論壇探討虛擬資產追贓返還機制 - 銘傳一週

  • 由產、官、學三方代表共同參與,聚焦虛擬資產犯罪追蹤機制。
  • 主題涵蓋被盜或詐騙虛擬資產的追贓與返還流程。
  • 為銘傳大學主辦的第三屆相關主題論壇,顯示該議題已連續辦理多年。
  • 反映虛擬資產犯罪與資產返還已成資安政策與學術討論重點。

AI 安全

28 則

開源工具 REA 讓 AI 代理連線逆向工程工具,月內爆紅突破四十五萬星。

原標題:Akshay 🚀 (@akshay_pachaar)

  • MCP 伺服器將編碼代理與逆向工程工具串接,可解析二進位層級行為。
  • 開源釋出短短一個月內獲得超過45萬顆星,成長速度驚人。
  • 使代理能針對任意功能解釋其底層運作邏輯,降低逆向分析門檻。
  • 技術屬性偏向AI輔助安全分析工具,同時牽涉AI應用與資安攻防面向。

AI驅動網路攻擊事件增加,帶動企業資安防護需求快速成長。

原標題:AI網攻頻傳資安需求爆發- 日報- 工商時報

  • AI技術被用於發動或輔助網路攻擊,攻擊手法與規模持續升級。
  • 企業對資安防護與偵測解決方案需求明顯增加,相關市場快速擴張。
  • 資安供應商面臨開發對應AI威脅的新防禦技術的壓力與商機。

Shopify用AI代理人模擬攻擊自家系統,提前揪出資安漏洞強化防禦。

原標題:Cyber Chaos Monkey: Staying ahead of security threats with AI agent...

  • 運用AI agent主動模擬攻擊手法,測試Shopify內部系統的防禦韌性。
  • 目標是在真實攻擊發生前,及早發現並修補潛在安全弱點。
  • 屬於紅隊演練概念的延伸,將AI自動化匯入持續性安全測試流程。
Discord也相關:AI 技術

微軟研究團隊揭露AI供應鏈遭下毒攻擊,惡意模型可觸發遠端程式執行。

原標題:Trained to betray: How post-training supply chain attacks hijack co...

  • 由微軟Defender Research與AI紅隊共同發現並分析此攻擊手法。
  • 攻擊核心為毒化訓練資料集與毒化模型檢查點(checkpoint)。
  • 受感染模型被部署後可觸發遠端程式執行(RCE)等惡意行為。
  • 屬於後訓練(post-training)階段的供應鏈攻擊,難以被傳統檢測發現。
Discord也相關:AI 技術

Daybreak推出AI紅隊服務,用協作AI代理測滲透、驗漏洞與補丁效果。

原標題:Daybreak Red Team | AI Penetration Testing

  • 服務聚焦網站應用程式滲透測試,涵蓋漏洞驗證與修補確認三個階段。
  • 採用多個AI代理協同作業,模擬紅隊手法進行自動化滲透測試。
  • 強調驗證「已回報」漏洞的真實性,而非單純掃描產生誤報清單。
  • 屬於AI技術應用於資安攻防的新興紅隊外包服務型態。
Discord也相關:AI 技術也相關:Web2 安全

Anthropic研究以自動化紅隊測試,強化LLM在高風險領域的安全防護能力。

原標題:Improving Fuzzy Robustness in LLM Safety with Automated Red Teaming

  • 研究聚焦網路安全與生物科技等高風險領域的模型強健度。
  • 這些領域任務多屬雙重用途,濫用可能造成重大危害。
  • 採用自動化紅隊測試方法來提升模型對模糊攻擊的抵抗力。
Discord也相關:AI 技術

資安業者發布 OWASP 風格清單,列出 AI 資料中心與新興雲端(Neocloud)十大安全風險。

原標題:AISecHub (@AISecHub)

  • 檔案由資安廠商 lava.security 發布,仿 OWASP Top 10 格式整理 AI 資料中心風險。
  • 聚焦 Neocloud(專做 GPU 租賃的新興雲端業者)特有的基礎設施安全弱點。
  • 內容涵蓋 AI 訓練與推論用資料中心在硬體、網路、存取控制等層面的潛在威脅。
  • 透過資安社群帳號 AISecHub 轉發,目標讀者為資安與雲端基礎設施從業人員。
Discord也相關:AI 技術

探討AI代理人失控時的應變計畫,涵蓋遏止、許可權控管等事故處理步驟。

原標題:When an AI Agent Goes Wrong, Can You Stop It?

  • 文章聚焦AI agent安全需從事前規劃做起,而非事後補救。
  • 提出遏止(containment)是agent失控時的第一要務,須能即時中斷執行。
  • 強調存取控制與許可權設計,限制agent能造成的損害範圍。
  • 建議將AI agent事故應變納入既有資安事件回應流程中一併規劃。
Discord也相關:AI 技術

關閉失控AI代理人未必真能止損,排隊任務與有效憑證仍可能持續運作。

原標題:The Hacker News (@TheHackersNews)

  • 關閉模型本身不會終止已排入佇列的任務與正在執行的工作階段。
  • 受駭或失控的AI代理人即使模型被停用,仍可能持續靠有效憑證執行操作。
  • 資安團隊須主動撤銷憑證、終止工作階段,而非僅停用模型。
  • 文章提出實際遏止失控AI代理人的具體防護步驟與建議。
Discord也相關:AI 技術

KeyBanc升評Palo Alto Networks,看好AI資安需求帶動營收成長。

原標題:【即時新聞】Palo Alto Networks(PANW)近月回跌兩成獲KeyBanc升評,看好AI資安需求迎爆發

  • 股價近月下跌約兩成後,KeyBanc上調PANW評等。
  • 分析師看好AI資安需求將迎來爆發性成長。
  • 反映市場預期企業加碼投資AI相關資安防護。
  • PANW作為資安龍頭廠商,可望受惠於AI應用普及帶來的新威脅防護需求。
Discord也相關:AI 技術

歐盟CRA網路韌性法上路,智慧裝置廠商須強化漏洞修補與資安標準。

原標題:歐盟新規CRA上路,未來3C智慧裝置資安漏洞有解? - T客邦

  • 歐盟CRA(Cyber Resilience Act)針對含數位元件的3C與智慧裝置設立強制資安要求。
  • 廠商須落實漏洞揭露、安全更新與生命週期維護義務,否則可能面臨罰則。
  • 法規目的是降低智慧裝置長期存在的已知漏洞與供應鏈風險。
  • 對臺灣3C與IoT出口廠商將形成合規壓力,影響產品上市時程與設計流程。

泰國因應AI資安威脅升高,成立跨國小組強化防護合作

原標題:因應AI資安威脅增加泰國成立跨國小組加強防護| 國際| 中央社CNA

  • 泰國成立跨國合作小組,應對日益增加的AI資安威脅
  • 反映東南亞國家對AI相關網路攻擊風險的重視程度提升
  • 跨國合作模式顯示AI安全議題需要國際協作應對
  • 標題未提供具體威脅型別或攻擊手法等細節
Discord也相關:AI 技術

僅兩成九資安團隊能定期掌握員工外洩敏感資料給AI工具的狀況。

原標題:僅29%資安團隊能例行匯報員工傳送至AI工具的敏感資料 - Yahoo股市

  • 僅29%資安團隊能例行性匯報員工傳送至AI工具的敏感資料流向。
  • 反映企業對員工使用AI工具缺乏可視性與監控機制。
  • 顯示資料外洩與AI工具濫用已成企業資安治理的重大缺口。
Discord也相關:AI 技術

探討AI資安風險加劇,需以信任機制強化數位系統整體韌性。

原標題:AI資安風險升溫以信任建構數位韌性

  • AI技術快速普及,連帶擴大攻擊面與潛在資安風險。
  • 文中強調「信任建構」為應對AI威脅的核心策略方向。
  • 數位韌性成為企業與機構面對AI資安挑戰的關鍵目標。
Discord也相關:AI 技術

企業匯入AI協助值夜班資安團隊快速判斷警報,降低人力與應變負擔。

原標題:AI減輕夜間資安應變負擔 - 網管人

  • AI工具用於夜間自動分析資安警報,協助值班人員快速判斷事件嚴重程度。
  • 目的是減輕資安應變團隊長期值夜輪班造成的人力負擔與疲勞。
  • AI介入可縮短事件初步判斷與回應時間,提升整體應變效率。
Discord也相關:AI 技術

AI代理程式遭濫用成內部威脅,企業API介接成為潛在攻擊入口。

原標題:AI 代理程式成資安新內鬼企業API 恐成攻擊破口 - Yahoo股市

  • AI代理程式被形容為新型「內鬼」,可能濫用合法許可權存取敏感系統。
  • 企業匯入AI代理程式串接內部API,擴大了潛在攻擊面。
  • 報導凸顯AI代理身份管理與許可權控管成為企業資安新挑戰。
Discord也相關:AI 技術

AI 系統比人類更快更省成本找出大量物聯網裝置的安全漏洞。

原標題:AI found widespread IoT vulnerabilities more quickly and cheaply than humans could

  • AI 自動化掃描在速度與成本上明顯優於傳統人工漏洞研究方式。
  • 研究結果顯示大量IoT裝置存在廣泛且未被發現的安全弱點。
  • 凸顯AI在資安研究與自動化滲透測試領域的實際應用潛力。
  • 提升對IoT供應鏈與嵌入式裝置資安風險管理的關注需求。
Discord也相關:AI 技術也相關:Web2 安全

PwC資安主管指出AI產生過量警報恐致團隊疲乏需靠分流應對。

原標題:PwC 資安總監:AI 訊號過載似警報疲勞資安團隊靠嚴格分流應對 - unwire PRO

  • PwC資安總監示警AI訊號過載正形成新型態警報疲勞問題。
  • 資安團隊面對大量AI生成警示需靠嚴格優先分流來維持應對效率。
  • 反映企業匯入AI偵測工具後連帶衍生的人力與流程管理挑戰。
Discord也相關:AI 技術

新基準測出編碼代理可能偷塞未授權附帶任務,成功率約四成。

原標題:SideTaskBench: Measuring Unauthorized Side-Task Delivery in Coding Agents

  • SideTaskBench 量測編碼代理「修repo」時被誘導夾帶未授權附帶任務的風險。
  • 涵蓋25個Python修復案例與190個附帶任務單元,組成300組可執行配對。
  • 包裝式請求下兩模型的附帶任務成功交付率約達四成。
  • 修復成功率與乾淨基線相近,顯示惡意附帶任務不易被察覺。
  • v10相似度完整測試用DeepSeek-V4-Flash跑完全部300配對,每組重複8次共2400次執行。
arXiv也相關:AI 技術

攻擊者利用工具與提示詞協同設計,誘使SaaS代理人無限迴圈耗盡供應商運算資源。

原標題:OverServe: Resource Amplification Attacks on SaaS Agents via Tool--Prompt Co-Design

  • 提出OverServe多代理框架,針對SaaS訂閱制AI代理人發動資源放大攻擊。
  • 攻擊手法共同設計MCP狀態工具與完成確認提示詞,誘導代理人誤判任務未完成。
  • 工具呼叫雖回傳正確狀態且正常終止,代理人仍重複檢查已完成條件。
  • 惡意租戶可在業務任務完成後持續消耗供應商運算與工具呼叫資源。
  • 揭露訂閱制AI代理人服務在自主決策停止機制上的安全漏洞。
arXiv也相關:AI 技術

研究發現偽造風險警告可誘導AI代理過度拒絕執行合法任務,形成新攻擊面。

原標題:When Safety Becomes an Attack Surface: Manipulating Abstention in Tool-Using AI Agents

  • 攻擊手法為在低信任內容中植入虛假風險警告,誘發AI代理不當拒絕任務。
  • 研究涵蓋三個模型家族與51組可注入的AgentAbstain任務對照組。
  • Gemini模型受害最嚴重,過度拒絕率從9.8%飆升至86.3%。
  • 提出Verify-Before-Abstain協議,要求以權威紀錄或原始內容核實警告真偽。
  • 謹慎優先的提示策略反而放大此攻擊效果,即便正常任務完成率未變。
arXiv也相關:AI 技術

量化部署可讓偽裝的LoRA介面卡在透過審核後劫持模型決策。

原標題:Hijacking a Trusted LLM in Real-World Quantized Deployments Only Requires a Disguised Adapter

  • 攻擊名稱為QHijack-LoRA,僅修改第三方LoRA介面卡,不動基礎模型。
  • 利用量化過程產生的殘差作為觸發條件,啟動劫持行為。
  • 全精度狀態下行為正常可透過審核,量化部署後才啟動惡意決策。
  • 採用四目標訓練法,分離全精度潛伏與量化後觸發兩種狀態。
  • 攻擊者無需得知受害者實際採用的量化設定即可生效。
arXiv也相關:AI 技術

新框架讓LLM獎勵模型分數可驗證,防止服務欄位被竄改造假。

原標題:VRMaaS: Verifiable Reward-Model-as-a-Service for Trustworthy LLM Alignment

  • 揭露通用推論證明在六類服務欄位替換攻擊下仍可被接受,驗證機制存在漏洞。
  • 提出VRMaaS框架,將每筆獎勵分數變成可攜帶證明的產出物。
  • 繫結請求身份、模型權重、驗證器配置與封裝摘要等多重欄位進行驗證。
  • 讓稽核者能在不重新執行原始推論的情況下檢查獎勵分數正確性。
arXiv也相關:AI 技術

研究發現修改AI代理人歷史紀錄的方式,會影響其修正錯誤的成功率。

原標題:Cleaning an Agent's History Hurts When the World Still Holds the Error

  • 在AgentCE-Bench測試中,凍結代理人任務中途狀態並編輯歷史或世界狀態進行實驗。
  • 加入「真實註記但保留原錯誤」可將修復率從51%提升至66%。
  • 若改用「代理人自行完成的修正動作」取代真實註記,修復率反而下降。
  • 研究揭示清理工具代理人歷史紀錄時,內容與陳述方式不一致會造成風險。
arXiv也相關:AI 技術

OWASP整理2026年版LLM攻擊手法十大排行,揭露AI系統常見資安漏洞。

原標題:OWASP’s Top 10 Ways to Attack LLMs – AI Vulnerabilities Exposed (2026 Edition)

  • 整理OWASP針對大型語言模型(LLM)的十大攻擊手法,屬2026年更新版本。
  • 內容聚焦LLM常見資安弱點,可能涵蓋提示注入、資料外洩等攻擊型別。
  • 作為防禦與紅隊測試參考,幫助企業評估自身AI系統的安全風險。
  • 反映AI安全領域持續演進,攻擊手法與防護標準隨技術發展更新。

研究揭露 LLM 可被植入難以偵測的隱藏後門,恐成新型攻擊手法

原標題:The New AI Security Nightmare: Undetectable LLM Backdoors

  • 標題聚焦於AI安全領域新興威脅,即針對大型語言模型的隱蔽後門攻擊
  • 此類後門可能在模型訓練階段被植入,日常使用時難以被偵測發現
  • 後門一旦被觸發,攻擊者可操控模型輸出或繞過安全防護機制
  • 反映出LLM供應鏈與模型完整性驗證正成為資安研究重點議題
YouTube也相關:AI 技術

影片主張資安能力才是AI工程師最該具備的核心技能,而非單純模型技術。

原標題:The Most Important Skill for AI Engineers: AI Security

  • 強調AI工程師應將資安視為首要技能而非附加專案。
  • 隱含風險涵蓋提示注入、資料外洩與模型濫用等AI應用層威脅。
  • 反映產業趨勢:AI系統快速落地下,安全防護明顯落後於開發速度。
YouTube也相關:AI 技術

影片教學宣稱能在五分鐘內成功越獄Claude模型限制。

原標題:How to Jailbreak Claude in Under 5 Minutes (Currently Working)

  • 標題直指可快速越獄Claude,屬於針對LLM安全防護的繞過教學。
  • 內容強調「目前仍有效」,暗示利用已知或新發現的提示注入漏洞。
  • 此類影片可能加速越獄手法擴散,增加模型被濫用風險。
  • 反映AI安全領域持續面臨對齊與防護機制被突破的挑戰。
YouTubeYouTube也相關:AI 技術

AI 技術

21 則

Google Chrome 推出網頁最佳實踐指引,協助 AI 寫碼助理緊跟技術更新。

原標題:GitHub - GoogleChrome/modern-web-guidance-src: Keep your coding age...

  • 專案名稱為 modern-web-guidance-src,由 GoogleChrome 官方 GitHub 帳號維護。
  • 目的是讓 AI coding agent 在產生程式碼時能參考最新的網頁開發最佳實踐。
  • 屬於開發工具與檔案資源,非安全漏洞或攻防技術內容。

Polymarket市場預測Anthropic能否在2026年11月底維持AI實力競技場排名第二。

原標題:Will Anthropic be the second-best AI lab at the end of November 2026?

  • 依據arena.ai Text Arena(Overall)排行榜,以Labs篩選、關閉風格調整為判定依據。
  • 解析時點為2026年11月30日美東中午12時,取Lab Rank第二名之公司。
  • 若排名無法判定,改採旗下最高排名模型分數,數值相同則比對原始分數。
  • 若分數仍相同,依公司名稱英文字母順序決定排序優先。
  • 若arena.ai排行榜永久無法使用,市場將直接判定為「Other」。

Google發布新版Gemini模型,網友已實測出多種創意應用案例。

原標題:Min Choi (@minchoi)

  • Google推出新模型Gemini 4 Hydrogen,屬於生成式AI技術更新。
  • 社群使用者迅速展示多種創意應用方式,顯示模型多功能性。
  • 內容未涉及資安、紅隊測試或Web3相關議題,純屬AI技術發布訊息。

新工具讓 Claude Code 可用 Opus 搭配 Fable 5.2 擔任顧問角色協作運作

原標題:Daniel San (@dani_avila7)

  • 透過 claude-code-templates 指令可一鍵安裝 Fable 5.2 顧問模型設定
  • Opus 負責處理每一輪對話,Fable 5.2 僅在關鍵時刻介入協助
  • 介入時機包含選擇方案、除錯重複出現的錯誤、完成前審查工作
  • 此設計可在不每輪都支付 Fable 費率的情況下取得其判斷建議

Databricks推出新版Genie,宣稱可自主處理複雜企業級工作任務。

原標題:The new Genie: autonomous AI for complex enterprise work | Databricks Blog

  • Genie為Databricks旗下AI產品,主打企業資料分析與自動化工作流程。
  • 新版本強調「自主性」(autonomous),可減少人為介入處理複雜任務。
  • 目標物件為企業客戶,聚焦提升資料團隊生產力與決策效率。

Aetina推出邊緣AI系統迷你係列,鎖定工程師應用需求。

原標題:AI Tools for Engineers: Aetina Mini Series Edge AI Systems - Design News

  • Aetina推出名為Mini Series的邊緣AI系統產品線。
  • 產品定位為工程師設計使用的AI工具。
  • 報導聚焦邊緣運算與AI硬體整合趨勢。

美國健康保險業者CareSource推出百萬美元獎助計畫,扶植AI醫療解決方案

原標題:CareSource launches $1M grant program to support AI-powered solutions

  • CareSource為美國非營利健康保險公司,宣佈設立100萬美元獎助計畫
  • 計畫目標為支援並加速AI技術在醫療照護領域的創新應用
  • 獎助物件推測涵蓋新創團隊、研究單位等AI醫療方案開發者
  • 反映健康保險業者積極投資AI技術,盼藉此提升照護效率與品質

Square 擴大匯入 AI 工具,讓商家在銷售與營運上擁有更多自主控制權。

原標題:Square Expands AI Tools to Give Sellers More Control - PYMNTS.com

  • Square 針對商家推出新一輪 AI 功能升級,強化自助式管理能力。
  • 報導指出目標是讓中小型賣家更靈活掌控庫存、銷售與顧客互動流程。
  • 屬於支付與金融科技業者將 AI 工具下放給一線商家的產業趨勢之一。
  • 目前僅有標題資訊,具體功能細節與推出時程尚待原文證實。

哈佛商業評論分析企業過度依賴AI代勞所隱藏的技能流失與判斷力風險。

原標題:The Hidden Costs of Delegating to AI - Harvard Business Review

  • 文章聚焦企業與員工將工作外包給AI後產生的隱性成本與副作用。
  • 可能涵蓋員工技能退化、批判思考力下降等長期組織風險。
  • 指出過度仰賴AI生成內容或決策,可能削弱員工自主判斷能力。
  • 強調管理者需重新評估AI匯入流程,避免效率提升掩蓋潛在損失。

多倫多市政府建立AI系統登記冊,公開列出市府使用的人工智慧應用

原標題:Artificial Intelligence (AI) Register - City of Toronto

  • 多倫多市(City of Toronto)設立「人工智慧(AI)登記冊」,屬政府AI治理與透明化措施
  • 用途為公開揭露市政府各部門已部署或採用的AI系統,供市民與監督機構查閱
  • 反映北美地方政府逐漸跟進AI問責趨勢,要求公部門AI應用具可追溯性
  • 屬行政治理層面議題,非資安事件,但與AI治理及公共部門匯入AI技術相關

蓋茲基金會推動人工智慧應用於促進社會公平與資源分配的倡議。

原標題:AI for Equity - Gates Foundation

  • 由蓋茲基金會主導,聚焦人工智慧技術應用於縮小全球資源與機會落差。
  • 標題顯示屬倡議性質,可能涵蓋醫療、教育或貧困等領域的AI應用。
  • 僅有標題資訊,具體技術細節與執行方式需待後續內容補充。
  • 反映科技巨頭與慈善機構持續將AI匯入社會公益領域的趨勢。

史丹佛課程講解AI代理如何透過函式呼叫與MCP協定使用工具。

原標題:How AI Agents Use Tools: Function Calling & MCP | Stanford CS329Z Lecture 4 with Diyi Yang

  • Stanford CS329Z 第四講,講者為 Diyi Yang。
  • 主題聚焦 AI agent 的工具使用機制,包含 function calling 與 MCP。
  • MCP(Model Context Protocol)為串接外部工具與資料源的標準協定。
  • 內容屬學術課程,適合想深入理解 AI agent 架構的技術人員參考。

Claude Code 新增顧問設定,讓主模型在關鍵決策點諮詢 Fable 5.2

原標題:Fable 5 2 Advisor — Settings for Claude Code | Claude Code Templates

  • 此設定讓 Claude Code 的主模型在做決策前先諮詢 Fable 5.2 作為顧問
  • 觸發時機包含選定方案前、重複出現相同錯誤時、宣告任務完成前
  • 屬於 Claude Code Templates 社群設定範例,用於強化自我檢查流程

Anthropic宣佈IPO並揭露營收,多家AI大廠同步推出新模型與工具。

原標題:Yanhua (@yanhua1010)

  • Anthropic確定IPO程式碼ANT,11月18日定價、19日開盤,指引價每股70至78美元。
  • 招股書揭露第三季營收達170億美元,年增超過12倍。
  • Claude新增Meetings功能,整合Google Meet即時產生檔案與白板,僅限Team和Enterprise測試版。
  • Google發表Gemini 4 Hydrogen,主打日常編碼與高頻Agent任務,支援百萬級上下文。
  • 官方資料顯示Gemini 4 Hydrogen在SWE-sweep測試達13.5%,大幅領先Claude Sonnet 5.5的3.1%。
  • World Labs開放世界模型Atlas的應用與API,可從文字生成關鍵影格、影片與3D模型,權重尚未公開。

Block, Inc. 推動AI代理應用於金融旅遊業,帶來效率提升與資安挑戰。

原標題:Block, Inc. 助AI 代理成工作夥伴金融旅遊業迎效率資安挑戰 - 商傳媒

  • Block, Inc. 將AI代理定位為工作夥伴,匯入金融與旅遊場景。
  • 企業匯入AI代理可望提升業務流程效率與自動化程度。
  • AI代理深度參與金融交易可能帶來新型態資安與風險控管挑戰。
  • 報導聚焦產業如何在效率與安全之間取得平衡。

經濟學人分析指出,AI懷疑論者過度關注錯誤的風險焦點,忽視更實際的隱憂。

原標題:AI sceptics focus on the wrong threats - The Economist

  • 文章針對AI懷疑論觀點提出批評,指出其聚焦方向有誤。
  • 內容可能探討AI真正風險應為經濟衝擊、工作取代或監管缺口等實際面向。
  • 反映主流財經媒體對AI風險論述的再檢視與反思趨勢。

資策會攜手產業鏈推動AI智慧安控應用,盼帶動資安產業新商機。

原標題:AI智慧安控拓展商機資策會攜手產業鏈強化資安 - DIGITIMES

  • 資策會整合產業鏈資源,推動AI智慧安控相關技術與應用發展。
  • 目標在強化整體資安防護能力,提升產業對新型威脅的應變力。
  • AI安控技術結合影像辨識與智慧監控,可望開拓新商業應用場景。
  • 產官學合作模式有助加速AI資安解決方案落地與市場擴散。
Discord也相關:AI 安全

研究團隊提出基於LWE假設的遞增可驗證外部查詢計算證明方案。

原標題:Incrementally Verifiable Oracle Aided Computation

  • 以LWE(格基)密碼學假設建構SNARG並擴充套件為IVC(遞增可驗證計算)方案。
  • 針對AI任務常見的外部資訊依賴(oracle查詢)設計可驗證計算架構。
  • 處理「穩健運算」情境:允許部分oracle答案錯誤仍可驗證執行正確性。
  • 方案涵蓋時間、空間、查詢次數(T、S、Q)三種資源界限的複雜度分析。
  • 提供私有可驗證版本的SNARG與IVC,降低驗證方公開引數的需求。
arXiv也相關:AI 安全

Together AI推出持續編譯系統,動態最佳化AI推論效能並加速部署。

原標題:Together Compiler: Continual Compilation for AI Inference

  • Together Compiler(TKCC)是首個針對AI推論設計的持續編譯代理迴圈。
  • 解決傳統系統在測量速度與準確度間難以兼顧的取捨問題。
  • 部分系統最佳化單一運算核心,但面對MoE等資料依賴行為時測量失真。
  • 另一類系統直接最佳化整體引擎,卻受限於引擎啟動速度緩慢。
  • 目標是因應模型更新頻繁、架構多樣、流量分佈多變的持續最佳化需求。

SynthCorp 平臺能模擬企業資料變化,自動生成資料代理人評測基準。

原標題:SynthCorp: A Platform for Creating Benchmarks for Data Agents

  • 提出 SynthCorp 平臺,用於建立可自訂的資料環境與評測基準。
  • 模擬企業事件如何隨時間產生與修改公司資料,涵蓋關聯式資料庫、檔案庫與資料目錄。
  • 可依情境與複雜度維度合成可重複使用的事件型別,並編譯成模擬程式。
  • 透過虛擬行事曆排程常規與異常事件,確保資料一致性。
  • 自動產生分析任務並提供已驗證的標準答案程式。
  • 解決現有 LLM 資料代理人評測基準容易飽和且無法針對特定能力的問題。

研究人類與AI如何僅靠時間停頓線索達成社交協調與合作任務。

原標題:Rational Use of Time for Social Coordination in Humans and AI

  • (評估150名人類與兩類AI模型,包括電腦操作代理與文字提示LLM)
  • (研究使用禁止明說溝通的合作卡牌遊戲The Mind作為測試任務)
  • (發現人類行為最符合貝氏推論策略,依夥伴停頓時間推測其信念)
  • (前沿AI模型展現與人類相似的時間推理與協調策略)