KeyFrame內部研究專用

為何AI圖幾乎倒模一樣?揭露生成AI圖兩大致命盲點!|股壇C見(Part 2/2)|20260731

Finance73026 min中文
觀看原始影片

三句話摘要

AI對全行業的職業衝擊與人類未來地位的思考。 精準度低的工作快速消失是不可逆轉的趨勢,但人類應該在決策與創意領域確保主導地位,否則最終將淪為被動旁觀者。 精準度決定替代速度:工作被AI替代的難度取決於其精準度要求。醫療手術等高精準工作短期內仍需人類主導,因為錯誤代價太高;而文案撰寫、初級分析、簡單設計等低精準工作則快速被替代。同一職業內也會分化,頂級設計師難以被替代,初級設計師卻面臨淘汰。

重點整理

  1. 精準度決定替代速度:工作被AI替代的難度取決於其精準度要求。醫療手術等高精準工作短期內仍需人類主導,因為錯誤代價太高;而文案撰寫、初級分析、簡單設計等低精準工作則快速被替代。同一職業內也會分化,頂級設計師難以被替代,初級設計師卻面臨淘汰。

  2. AI圖像生成的技術與經濟困境:所有主流AI圖像服務都採用相同的Diffusion Model技術,僅在算力與訓練資料上有差異。企業為了降低成本,大多使用廉價模型與簡化Prompt,導致輸出結果重複相似,容易被人眼識別為AI生成物。初級設計工作已被大量替代,但設計師正轉向修正AI輸出這類新工作。

  3. 失業與創業的雙面現象:雖然部分工作消失,但AI也降低了創業門檻。年輕人更容易開展多個客戶的自由工作,不需長期綁定於單一企業。全球化與AI的結合創造了新的工作形式——非洲小國已有兒童透過AI生成圖像從事海外外包工作。

  4. 不可替代的人類價值:藝術創作、故事講述、情感價值與最終決策仍是人類優勢。高度自動化的交易室仍需要人類交易員做最後把關,因為一旦系統失控需要立即干預。但長期而言,這些領域也逐漸被AI蠶食。

實用技巧與重點

  • 預測數據:前Google高層警告2027年將有30%工作消失;Elon Musk預言5-10年內人類無法在任何領域贏過AI
  • 技術方案:Diffusion Model(所有主流AI圖像生成的基礎技術)
  • 具體成果:AI已生成百多頁的完整漫畫;企業從需要10人查看年報降至2人配合AI即可完成
  • 新興工作形式:非洲小國慈善機構培訓兒童使用AI生成圖像做海外外包;設計師轉向修正AI生成的圖像
  • 人類決策的必要性:全自動化交易室仍需3人交易員監控,以便在程式失控時按按鈕立即停止
  • 工作轉化案例:以前企業必須聘請前台接待員維持形象,現在已普遍取消此職位而無損運營
  • AI稅的理論基礎:企業若投入相同成本,AI產出遠高於人工產出,政府可以透過課稅重新分配利益

結論

精準度低的工作快速消失是不可逆轉的趨勢,但人類應該在決策與創意領域確保主導地位,否則最終將淪為被動旁觀者。

完整解析

AI對職業的衝擊已經從理論進入現實。講者指出,AI的影響範圍遠比工業革命或全球化更廣泛,因為它同時觸及所有行業。關鍵在於精準度——精準度越低的工作越容易被替代。初級文員、簡單分析師、入門設計師已面臨大規模淘汰,但並非所有職業都同步消失。醫療手術、藝術創作、故事講述這類需要深度專業判斷的工作目前仍難以被完全替代,因為錯誤的代價過高,或因為它們承載的情感與審美價值無法量化。

在AI圖像生成領域,現實情況更複雜。所有大型AI服務商使用相同的Diffusion Model技術——將影像轉換為亂碼,再透過逆向猜測還原。差別只在於算力投入與訓練資料規模。企業為降低成本而採用相同的套路導致輸出高度同質化,「就像倒模一樣」,每次生成結果都相似。初級設計工作已被替代,但設計師正面臨職業轉型——從創作者變成修正者。這個過程在全球化早已開始:香港設計師的5000元項目早被海外外包平台上30元的設計師搶走,如今AI加速了這一過程。

失業的恐慌並非毫無根據,但也不全是負面。AI確實消滅了某些職業,但也創造了新的工作形式。許多年輩人不再願意從事低薪辦公室工作,反而透過AI工具更容易創業,同時為多個客戶服務。企業文化也在改變——曾經必須聘請前台接待員來維持公司形象,現在已被普遍視為不必要。新工作正在出現,只是速度趕不上舊工作的消失。

關於AI稅的討論反映了更深層的經濟問題。理論上,如果企業投入相同的算力卻產出遠高於人工產出,政府可透過課稅重新分配這部分利益,就像資本稅一樣。但執行困難重重:如何計算和徵收?一旦某國徵收AI稅,企業會轉移到沒有此稅的地區。政策反而可能逼迫企業為了躲稅而放棄AI,繼續使用人力做那些機器更擅長的事——這是一種浪費。

最終,講者認為最不可被替代的是決策權。即使高度自動化的交易室也需要人類交易員坐在螢幕前,準備在程式失控時按下停止鍵。這不是AI無法分析,而是人類必須保留最後的控制權。但如果持續將決策權移交給AI,終有一天人類將失去判斷的能力,成為被保護的物種。Elon Musk的警告恰好指向這個困境:當AI在所有領域都贏過人類時,人類還能掌握什麼?

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI