DEF CON 33 - BiC Village - Petty Proteins When Molecules Go Rogue& Why Cyberbiosecurity - Tia Pope

講者以《迷離境界》與《Friday》電影開場，用隱喻說明現狀：人類聚焦於錯誤的事物，而真正的威脅被忽視。新冠疫情證明微小變化可在短時間內摧毀全世界，失業人員無所事事徘徊街頭正如未被善加利用的AI工程師可能淪為恶意工具。

講者雖非傳統生物化學家，但其網絡安全與軟件工程背景使其能看到他人看不到的「裂痕」。這種跨領域視角幫助講者理解蛋白質的真實重要性——蛋白質不只是DNA的產物，而是直接執行生命功能的實體。它們是「幕後勞動者」，包括有益的抗體、酶與激素，但也包括導致疾病的錯誤折疊與被病毒利用的結構。環境因素（pH、炎症、氧氣含量）動態改變蛋白質行為，使其行為複雜且難以預測。

AI革命大幅降低了危害設計的門檻。AlphaFold將預測時間從數月縮至數秒，過去花費職業生涯研究的工作現在秒級完成。Transformer架構的出現使大模型能並行處理數百萬序列，催生出ESM與ProtBERT等蛋白質預測模型。這些模型免費開源，任何人下載安裝所需庫後即可運行。ESM可以生成新蛋白質序列（甚至無輸入也能生成），並預測其功能（如是否為酶）。ProtGPT2作為解碼器可生成完全不同的序列。但令人震驚的是，講者檢查的所有模型都缺乏任何護欄——沒有警告提示用戶其生成物的潛在危害。

這一空白帶來了現實威脅。講者本人在不到30分鐘內就利用這些工具創建出「非常危險的HIV版本」。恶意行為者可以利用公開文獻中已知的神經毒素（如海螺毒素，既用於神經治療也可作大規模殺傷武器），通過AI改造其序列使其更強效，改變其結構使其能以氣溶膠形式傳播，甚至隱藏在日常消費品中。由於每個人的血型、黑色素水平等因素不同，恶意者可設計影響特定人群的蛋白質。政府已承認這一威脅，但全球監管嚴重滯後。美國FDA在2025年2月發布人工智能生物制劑指導意見，但僅涉及訓練方法與殘留檢測，未涉及如何防止危害設計。各國聲稱為藥物研發使用這些工具，實際上卻在軍備競賽中武器化，形成國際竞爭格局。

為應對危機，講者開發了Craig與Debo兩個防禦工具。Craig作為現有模型的包裝器或附加組件，可標記潛在危害的生成序列，幫助使用者識別風險。Debo通過大規模逆向工程——收集數千個AI生成的蛋白質序列及其3D預測——試圖辨別其來源模型，使得一旦危害序列被發布，至少能追溯其來源，「領先小克里斯一步」。講者強調，任何背景的人都能參與防禦。開發者可檢查GitHub上已發布的十多個開源蛋白質模型，研究其評估機制與訓練數據漏洞。非專家可通過Google搜索驗證新聞中的蛋白質信息（例如，新冠變體在3D中實際形態是否與報導一致），填補公共數據庫中因資源不足而未深入研究的蛋白質記錄，將發現發布到社交平台供他人發現。講者正努力成立工作組建立標準，但坦言防禦速度遠遠趕不上威脅增長——這需要全球安全專家、開發者與科學家的協作才能建立有效框架。