S2E67 AI 浮水印深入解析：為什麼 OpenAI 做好了卻不敢用？

歐盟AI法案於8月2日生效，強制要求所有AI生成內容均需加註浮水印標記。由於AI模型無法識別用戶地理位置，全球使用者實際上都將面臨這項要求，舊模型緩衝期至12月2日。Google、OpenAI等主流廠商都在受影響之列。

不同模態的浮水印實現邏輯差異巨大。圖片、聲音、影像都遵循編碼器-解碼器架構：編碼器負責在內容中嵌入基於私鑰生成的不可感知信號，解碼器負責檢測並給出0到1的概率評分。以聲音為例，系統先將波形轉換為頻譜圖（橫軸代表時間，縱軸代表頻率，亮度代表聲音強度），在人耳難以察覺的頻率-時間交界處加入線索，再轉回音波形式。這類方法的強點是魯棒性——即使經過壓縮、降低解析度或編輯，浮水印依然可被檢測。

文字領域面臨完全不同的挑戰。文本缺乏隱藏信息的空間，因此採用統計概率方法。最初的「紅綠燈法」根據前文加上密鑰生成種子，隨機將候選字分為兩組：紅組（降低被選概率）與綠組（提高被選概率），維持約5:5的比例。關鍵設計是調整而非禁止，避免破壞「1+1等於2」這類確定性答案。驗證時，系統重新計算綠字的出現比例，AI生成文本中綠字應明顯超過50%，而人寫文本由於對紅綠分組一無所知，綠字比例應接近50%。

Google提出的改進版本採用G值法，概念更優雅。系統為每個候選字賦予0或1的G值，選詞時執行兩次並保留G值較高的字。這樣做的優勢是完全保留模型的原始機率分布，避免品質下降，同時通過平均G值計算（AI文本應>0.5，人寫文本應≈0.5）進行驗證。

關於AI使用的必要性，講者提出了微妙的倫理判斷。不同工作性質應有不同態度：對寫作、視頻製作等本質上是個人創意表達的工作，應盡量避免AI介入，因為這些是藝術創作過程本身；但對社群文案、圖片生成等純粹的工具性應用，AI使用無可厚非。講者以自己為例，視頻製作是核心創意，不會用AI替身，但文字對他只是表達工具，樂於交給AI處理。時間背景也很重要——2024年時AI還是選擇性工具，但到2026年已成為工作必需品，人們對浮水印的看法可能已然改變。

當前技術存在三個根本性痛點。第一，驗證必須依賴廠商的私鑰，只有廠商自己能驗證自家浮水印，無法進行獨立第三方驗證。第二，各廠商採用不同標準與私鑰，導致跨模型改寫會破壞浮水印——若用Claude改寫OpenAI的文本，因為兩家私鑰和G值分布完全不同，原浮水印信號就會失效。第三，文字浮水印相對容易繞過，翻譯、改寫、模型轉換都能破壞信號，因為文本本身沒有如圖像那樣的隱藏空間。

解決方案正在探討中。零知識驗證被視為可能的答案——在不洩露私鑰的前提下，通過數學證明讓第三方確認內容確實來自某個AI模型。類比是「找威利」遊戲，用白紙挖洞對準答案位置，只證明你找到了答案而不透露答案本身。行業統一標準則能解決跨廠商驗證的問題。值得注意的是，這些繞過手段多數造成的是假負例（實際為AI卻未被檢測），真正的假正例（人寫被誤判為AI）相對罕見，因為不小心寫出AI風格文本的概率較低。