KeyFrame內部研究專用

谷歌徹底完蛋了!AI造謠判刑?矽谷巨頭們正集體發抖!🚨

獨特見解·6月19日週五·23 min中文

三句話摘要

德國法院判決谷歌AI概覽造謠敗訴,廢除科技巨頭20年的責任豁免特權。 權利與責任必須對等:既然選擇享受AI帶來的流量壟斷和估值紅利,就必須咽下AI造謠帶來的法律代價。 AI內容性質的法律重新定義:法院明確區分了傳統搜索引擎(僅提供連結的中介)與AI概覽(用自己邏輯重寫內容的原作者),後者不享受中介豁免權,必須為內容真實性負全部責任。

重點整理

重點
  • 1

    AI內容性質的法律重新定義:法院明確區分了傳統搜索引擎(僅提供連結的中介)與AI概覽(用自己邏輯重寫內容的原作者),後者不享受中介豁免權,必須為內容真實性負全部責任。

  • 2

    戳破產品設計的虛偽心機:谷歌將免責聲明隱藏在「更多」按鈕後方或某些瀏覽器上完全消失,試圖引導用戶盲信AI答案,法院認為這違反了基本的商業誠實原則,既然設計目的是讓用戶不點連結,就不能轉身說用戶應自行核查。

  • 3

    大模型幻覺是不可根除的技術缺陷:AI誤導不是偶發bug而是Transformer模型的基因缺陷,根據概率選擇「聽起來最順」的詞彙而非基於事實,科技公司若知道無法完全解決仍強行商用,等同故意傷害。

  • 4

    流量掠奪與內容竊取的司法認定:谷歌用爬蟲竊取全網內容訓練AI,再用AI摘要截斷第三方創作者的流量和廣告收入,法院將此視為結合技術優勢的惡意侵害,而非創新豁免。

實用技巧與重點

乾貨
  • 案件要素
  • 判決時間:2026年5月
  • 法院:德國慕尼黑地區法院
  • 案號:26歐869/26
  • 被告:谷歌
  • 原告:兩家德國出版公司
  • 判決:停止傳播虛假內容、承擔80%訴訟費用
  • 谷歌初期辯護邏輯
  • 第一層:避風港原則(Safe Harbor),聲稱自己是中介,受《數字服務法DSA》保護
  • 第二層:甩鍋用戶,稱用戶應自行點開連結核查、應知AI可能出錯
  • 法院判決的核心論據
  • AI概覽內容 = Google's own content(谷歌自己的言論)
  • 產品目的是減少用戶點擊行為,就不能以「用戶應自行檢查」為藉口推卸責任
  • 免責聲明隱蔽程度:需點「顯示更多」按鈕、超小字號、某些瀏覽器環境下完全消失
  • 相關前案
  • 加拿大航空AI客服機器人案:客服謊稱90天內可退款(實際政策出票後不退),被判必須賠償,法院認定用戶信任企業品牌而非獨立法律實體,公司不能既享受機器人效率紅利又否認機器人的言論
  • 技術層面的問題
  • 谷歌同一查詢反覆刷新、換區域的答案措辭不一致,甚至引用虛假出處(聲稱引自劍橋詞典,實際原文不符)
  • 無緩存策略:谷歌不願對固定內容做緩存以保證準確,原因推測為成本考量——部署了極度輕量化、速度快但邏輯不嚴密的「阉割版大模型」

結論

結論

權利與責任必須對等:既然選擇享受AI帶來的流量壟斷和估值紅利,就必須咽下AI造謠帶來的法律代價。

完整解析

詳細

整個事件的起因看似荒誕,卻道出了AI時代的真實困境。兩家德國出版公司莫名其妙地在谷歌搜索結果頂部遭遇「網暴」:當用戶搜索這些公司名字時,谷歌的AI概覽欄位信誓旦旦地聲稱它們搞詐騙、設訂閱陷阱、開假發票、收錢不給用戶解鎖內容。問題在於,這些公司根本沒做過這些事,而且AI給出的「參考連結」裡也找不到任何支持這些指控的文章。谷歌的AI硬生生憑空編造了誹謗內容,可能是在抓取全網數據時,把別家公司或律師警告信的片段張冠李戴地拼接到了這兩家無辜出版社的頭上。

面對訴訟,谷歌拿出了慣用的法律防禦招式。第一層叫「避風港原則」——聲稱自己只是搜索引擎,一個連接用戶與第三方網站的中介,不應對網上信息負責,這套邏輯在過去二十多年的版權糾紛中屢試不爽。第二層則是甩鍋給用戶:看啊,我們在AI概覽下方放了參考連結,用戶可以自己點進去核查,而且我們早就說了AI會犯錯。但慕尼黑法院直接給了谷歌一記降維打擊。

法官指出,傳統搜索引擎提供藍色連結清單時確實是中介,用戶看到的是第三方網站的原始內容。但AI概覽完全改變了這一點。AI並沒有原封不動地搬運第三方內容,而是用自己的語言、邏輯和結構重新組織、總結,這實質上是谷歌自己在創作和發布信息。法院用一個形象的比喻:就像郵遞員不僅拆了你的信,還把內容改了一通,然後用自己的名義在大喇叭裡廣播一樣。既然如此,你就不再是無辜的郵遞員,而是發言人和出版商,必須為言論內容的真實性承擔完全的法律責任。

至於谷歌那個「用戶應自行檢查連結」的論據,法官的吐槽更是刀刀見血。推出AI概覽的初衷難道不就是讓用戶少點幾個連結、直接在頁面頂部獲取答案嗎?如果用戶還需要把底下的連結一個個點開去核對AI有沒有撒謊,那這個功能還有什麼用。這等於是謀求產品利益的同時又想甩掉責任,門都沒有。

這項判決之所以震驚業界,根本上在於它戳破了科技巨頭們過去二十年的一個中心謊言。谷歌並沒有被單純的技術bug打敗,而是被商業邏輯本身打敗。過去,谷歌以及整個互聯網生態能夠野蠻生長,就是因為他們躲在「我們只是中介」的保護傘下。但當他們為了對抗ChatGPT的威脅,急匆匆地把自己變成一個「全知全能的答案提供者」時,他們就失去了那把傘。谷歌用別人創作者的內容訓練AI,再用AI把創作者的流量截留在自己的首頁,甚至還用AI把創作者的名聲給毀了。這不再是創新,而是赤裸裸的技術掠奪。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing
編輯精選
83 min
AI 技術英文PODCAST8月26日

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing

Latent Space

  • 加速傳統物理模擬的典範轉移:氣象科學家原本認為 AI 無法匹敵數十年的物理建模工作,但傅里葉神經算子不僅達到同等精度,還快了一萬多倍。原本需要超級計算機的計算現在用消費級 GPU 就能完成,這改變了整個領域的思維方式。
  • 傅里葉域的非局部現象捕捉:傅里葉域能有效表示非局部現象(如大氣河流跨越千里的影響),且計算複雜度為準線性,遠優於完全連接的全局模型。這特別適合流體動力學、量子化學等自然現象中普遍存在的非局部相互作用。
  • 多解析度連續函數表示:神經算子將輸入輸出視為連續函數而非固定維度向量,可在推論時以任意解析度查詢,並能在更高解析度上疊加物理約束或額外數據,克服了固定解析度神經網路的限制。
Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Why the Next AI Breakthrough May Come from Physics with Max Welling - #774
55 min
AI 技術英文PODCAST8月25日

Why the Next AI Breakthrough May Come from Physics with Max Welling - #774

TWIML AI

  • 多層篩選的材料設計流程:先搜尋文獻資料庫找現有材料,若無合適的就用生成模型產生數十萬個候選分子,用機器學習力場進行分子動力學模擬篩選,再進行實驗驗證。這套流程相比傳統量子力學計算能加速效率數個數量級。
  • 生成AI與熱力學的數學等價性:資訊論是兩個領域的共同基礎,生成模型的擴散過程與非平衡統計力學描述資訊損失的過程在數學上完全對應,許多開發出來的方法工具在兩領域都有精確對應的形式。
  • 基礎模型的遷移學習策略:先在廣泛材料資料集上訓練基礎力場表示,再針對特定材料類別進行蒸餾微調,既能保持計算效率也能獲得專一性。