KeyFrame內部研究專用

Shipping Production AI Inside Government — William Tarr, Ministry of Justice (DO NOT PUBLISH)

AI Engineer18 min英文
觀看原始影片

三句話摘要

英國司法部AI單位如何透過前沿部署模式,直接在監獄與緩刑機構駐紮工程師,快速迭代AI產品以解決員工的實際工作流程痛點。 政府AI的成功不在於更多的治理流程或龐大的團隊,而在於讓小而多元的工程師直接駐紮前線、快速迭代、痴迷於解決真實問題而非預設的完美設計。 前沿部署模式根本改變產品開發週期。傳統政府40人團隊通常耗時數月經過層層治理流程,這個團隊讓工程師直接駐紮監獄與緩刑機構,每週2-3天與員工並肩工作,以週計迭代MVP,將國家級推廣時間從年級壓縮至月級。

重點整理

  1. 前沿部署模式根本改變產品開發週期。傳統政府40人團隊通常耗時數月經過層層治理流程,這個團隊讓工程師直接駐紮監獄與緩刑機構,每週2-3天與員工並肩工作,以週計迭代MVP,將國家級推廣時間從年級壓縮至月級。

  2. 痴迷於問題而非產品設計。團隊不預設完美的系統架構,而是觀察員工的實際工作流程、挫折點與未被解決的多年難題,根據真實反饋決定優先順序,使用特性開關進行小規模測試驗證。

  3. 務實應對基礎設施與治理的落差。許多監獄缺乏WiFi(維多利亞建築、安全限制)、依賴老舊系統,HQ的政策文件與現場運作脫節。團隊透過深入現場,設計離線模式、本地緩存等解決方案,而非推動不現實的技術需求。

  4. 多元團隊與強大工程基礎支撐迭代速度。團隊包含YC創業者、Palantir工程師、社會學教授,配合紮實的數據安全基礎與平台工程支持,使其能在處理司法敏感數據的同時保持快速迭代。

實用技巧與重點

  • 組織規模
  • 司法部AI單位:40人(通常需300人才能達成同等產出)
  • 司法部總人員:95,000人
  • 運營人員:30,000人
  • 緩刑官數量:約12,000人
  • 開發週期
  • MVP開發:週級
  • 試點:月級
  • 國家級推廣:數月
  • 現場駐紮
  • 每週投入時間:2-3天
  • 首次現場:入職第2-4天內
  • 具體應用領域
  • 轉錄(讓官員語音記錄而非手工查記)
  • CCTV分析與預警智能
  • 文書自動化與代理系統
  • 數據整合
  • AI員工教育
  • 技術解決方案
  • 離線模式
  • 瀏覽器本地緩存
  • 簡化UI語言(避免技術術語)
  • 視覺化與影片教學優先
  • 團隊組成
  • YC創業者
  • Palantir工程師
  • 社會學教授
  • 平台工程師
  • 社會學家用於長期願景規劃
  • 招聘方向
  • 前沿部署工程師(Forward-Deployed Engineers)

結論

政府AI的成功不在於更多的治理流程或龐大的團隊,而在於讓小而多元的工程師直接駐紮前線、快速迭代、痴迷於解決真實問題而非預設的完美設計。

完整解析

英國司法部正面臨典型的政府技術危機:系統分散、部門孤立、合同複雜、遺留技術層層疊疊。當講者加入時,Wandsworth監獄不斷發生囚犯被誤釋放的事件,暴露出監獄、法院與緩刑機構間的協調完全失效。傳統司法部有95,000名員工,其中30,000名運營人員直接從事監獄、法院、緩刑工作,但這些員工使用的IT系統往往與現場需求脫節。

約一年半前,司法部啟動了司法AI單位來解決這一困境。單位的核心原則很簡單:不製造試點與幻燈片,而是與用戶協作快速交付他們真正想要的產品。一個40人的團隊在傳統政府中需要300人才能達到相同的產出,這種效率來自於一個激進的改變:前沿部署模式。工程師不坐在辦公室做設計文件,而是直接駐紮在監獄、緩刑機構與法院現場,與員工一起工作。

工作流程簡潔高效。每週工程師花2-3天在前線,觀察監獄官員與緩刑官員的日常挑戰、現有系統的失效點。基於這些觀察,團隊以週為單位快速構建MVP,當週就展示給現場人員。如果方向正確,用特性開關進行小規模測試;如果不可行,團隊毫不猶豫地放棄,而非投入數月推進。這種快速實驗的節奏使得從MVP到全國推廣只需數月,打破了傳統政府動輒數年的周期。

然而,前沿部署面臨真實的約束。許多監獄是維多利亞時代的建築,厚達6、7英尺的牆壁阻隔WiFi信號,加上安全考慮,WiFi往往被禁用。團隊對此的應對體現了他們的核心哲學——痴迷於問題而非產品。他們與前線人員深入交談,理解WiFi缺乏的環境限制,轉而設計離線模式、使用瀏覽器本地緩存等務實解決方案。當CCTV分析等技術看起來很酷但因硬件合同問題無法推進時,他們坦誠地認領失敗,而非堅持承諾。

團隊的多元性至關重要。成員來自YC、Palantir、學術界等不同背景,帶來各異的思維方式。同時,紮實的平台工程基礎與數據安全設計確保了所有開發都建立在可信的基礎上,這一點在處理司法敏感信息時尤為重要。具體產品著眼於解放員工:轉錄讓官員用語音記錄而非手寫、CCTV分析將被動監視轉為主動預警、文書自動化減少紙面工作。所有這些都旨在讓官員從桌前解放出來,回到他們真正想做的工作——與受刑人與服刑人員進行面對面接觸。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI