KeyFrame內部研究專用

The Prompt Is Still a Punch Card - Ted Johnson, JoinIn AI

AI Engineer20 min英文
觀看原始影片

三句話摘要

當前AI提示本質上仍是穿孔卡片時代的批次協議,真正的進步應將介面從異步批次轉變為即時對話。 機器已聰明到可以理解我們的全部,我們應停止為了被理解而改造自己,改由AI來學會人類真實的溝通方式。 三層介面框架:任何計算機介面由通道(鍵盤、語音、文字)、表達範圍(介面容納多少意思)和協議(互動規則)組成。LLM改變了表達範圍——人類首次能用自然語言直接表達意圖、脈絡、意思,而機器真正理解。但通道與協議仍停留在舊時代。

重點整理

  1. 三層介面框架:任何計算機介面由通道(鍵盤、語音、文字)、表達範圍(介面容納多少意思)和協議(互動規則)組成。LLM改變了表達範圍——人類首次能用自然語言直接表達意圖、脈絡、意思,而機器真正理解。但通道與協議仍停留在舊時代。

  2. 批次協議的代價:當前提示系統本質上沿用穿孔卡片時代的協議——人類必須先完整組裝請求、提交、等待、再修改。人類承擔了所有環境感知、上下文管理、時機判斷的工作,而模型只在人類打完整包裝後才參與。

  3. 提示工程是錯誤的讚美:「讓AI逐步思考」「給它例子」「扮演專家」等技巧不是掌握AI的訣竅,而是學會如何打包批次任務。我們自以為精通,實際上學的是1960年代穿孔卡片操作員的技能。使用者難以駕馭不是因為無能,而是介面本身未配合AI能力。

  4. 即時對話是正確方向:OpenAI GPT real-time加入「嗯」「是啊」等回應信號、NVIDIA PersonaPlex展示真正的輪流制(被打斷時停止、拾起線索)。Join in AI的群體會議系統示範了終極形態——AI在對話流中追蹤議程、理解發言人、判斷何時介入,全程無需人類寫任何提示。

實用技巧與重點

  • 歷史與比較:
  • 鍵盤專利年份:1860年代
  • 穿孔卡片協議:等待時間從數小時到數秒,但協議本質未變
  • 批次模式流程:組裝→提交→等待→讀結果→修改→重新提交
  • 技術示範:
  • OpenAI GPT real-time(2024年5月發布):支援voice mode、加入即時回應信號
  • NVIDIA PersonaPlex:研究模型、展示real-time turn-taking與打斷恢復能力
  • Join in AI群體對話系統:4人會議記錄案例
  • 具體案例數據(費用核批系統):
  • 需求ID:REQ 442
  • 初始閾值:5,000美元需二人核批
  • 最終修改:改為10,000美元
  • AI角色:標記發言類型(問題/提案/答案)、追蹤議程、判斷發言人身份、自主決定參與時機
  • 交互內容:會議記錄、需求確認、房間預訂查詢

結論

機器已聰明到可以理解我們的全部,我們應停止為了被理解而改造自己,改由AI來學會人類真實的溝通方式。

完整解析

這場演講質疑了我們習以為常的AI使用方式。講者Ted Johnson從計算機歷史切入指出,鍵盤介面看似自然,其實沿用了1860年代在機械約束下的任意設計。幾代人傳承下來,我們停止了質疑。

他提出通道、表達、協議三層框架分析介面。過去百年,通道基本未變(穿孔卡片→鍵盤→文字框),表達範圍卻被局限於機器能理解的固定詞彙。直到LLM出現——第一次,人類可以用自然語言、用自己的方式表達意思,機器能真正理解含義、脈絡、意圖。這應該是革命性的進步。

問題在於,我們把這無限的表達能力倒入了一個古老的容器:批次協議。穿孔卡片時代的流程是——人類先完整組裝請求、交給操作員、提交、等待(有時數小時)、拿結果、發現問題、重新提交。今天我們加快了速度(從小時到秒),但協議本質未變。「提示工程」不是掌握AI的訣竅,而是學會如何打包批次任務。那些「讓AI逐步思考」「給它例子」「扮演專家」的技巧,本質上就是穿孔卡片操作技能。

講者指出,我們對此沾沾自喜是錯誤的——這應該讓我們感到不安。模型已足夠聰明,能問追蹤問題、察覺缺失、主動澄清,為什麼還要人類完整打包一切?為什麼不讓機器參與思考過程本身?

他展示了替代方案。OpenAI GPT real-time開始加入「嗯」「是啊」這類回應信號。NVIDIA PersonaPlex示範真正的輪流制——被打斷時停止、讓對方發言、拾起線索。最令人矚目的是Join in AI自己的系統:四人群體會議討論費用核批規範。AI不等待提示,而是在對話流中追蹤議程、理解發言人身份、判斷何時應提建議、標記發言類型。整場過程無人寫提示,也無人按submit。系統活在對話裡。這才是關鍵——不是讓AI更聰明,而是讓介面終於跟上智能本身。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI