KeyFrame內部研究專用

Why Jev Is Changing How We Build With AI with Diogo Almeida - #779

TWIML AI90 min英文
觀看原始影片

三句話摘要

AI 被過度優化於生成人類易讀的文本,導致在自動化業務決策等實際任務上表現糟糕,而 Typesafe 的 Jev 模型透過改變優化目標,將 AI 改造為可靠的「機器原生智能」。 AI 的真正限制不是能力而是優化方向,改變目標──從討人喜歡的文本改為可靠的決策──就能解鎖今日看似不可能的自動化。 優化目標決定模型能力:所有機器學習都遵循「你得到你優化的東西」這條法則。大型語言模型因為被優化用於文本生成而在這方面超群,但同時完全不適合決策任務。而 Jev 則從第一天起就被優化用於可校準、可靠的決策,這根本上改變了其能力和用途。

重點整理

  1. 優化目標決定模型能力:所有機器學習都遵循「你得到你優化的東西」這條法則。大型語言模型因為被優化用於文本生成而在這方面超群,但同時完全不適合決策任務。而 Jev 則從第一天起就被優化用於可校準、可靠的決策,這根本上改變了其能力和用途。

  2. 校準度與可靠性是關鍵:Jev 輸出的不只是最可能的決策,而是帶有校準概率的決策。這讓軟體工程師能根據實際業務成本調整行為──例如客戶值多少錢、人力資源有多忙──而不是盲目相信模型的選擇。

  3. RLCD 與 RLHF 的根本差異:RLHF 最初用於教人類偏好文本生成,但為了生成「討人喜歡」的文本必須產生過度自信,破壞了模型的校準度。RLCD 則反向而行,特意為決策優化,結果是更可靠但更「無聊」的模型。

  4. 需要工程與代碼整合:不同於聊天機器人可作為獨立服務使用,Jev 必須嵌入開發者自己的代碼中。開發者提供業務邏輯,Jev 提供可靠的智能層,這才是真正的自動化,而不是祈禱黑盒模型做正確的事。

實用技巧與重點

  • 公司:Typesafe
  • 產品:Jev(決策模型)
  • 技術名稱:RLCD(Reinforcement Learning for Calibrated Decisions)
  • 關鍵人物:Diogo Almeida(共同創辦人兼執行長)
  • 背景:於 OpenAI 服務 4.5 年,參與 InstructGPT 和 RLHF 工作
  • 核心概念:「機器原生智能」(Machine-Native Intelligence)
  • 基礎:建築在開源模型之上,使用多個開源模型進行「Frankenstein」式組合
  • 開發時程:預期一周完成,實際耗時超過預期(兩年隱形開發)
  • 使用者定位:軟體工程師、開發者
  • 主要優勢:校準度、可靠性、決策精度
  • 輸出格式:決策加概率,供開發者根據業務邏輯調整
  • 與 RLHF 的對比:RLHF 最易實現但犧牲校準度;RLCD 更難但獲得可靠決策
  • 與代理(Agents)的關係:可改進代理決策,但不採用 KV 快取架構
  • 參考文章:「KV Cache Rules Everything Around Me」(討論代理設計約束)
  • 失敗案例:客服代理多年無法可靠執行、開車外賣自動化、信用卡更改等基本任務

結論

AI 的真正限制不是能力而是優化方向,改變目標──從討人喜歡的文本改為可靠的決策──就能解鎖今日看似不可能的自動化。

完整解析

當今人工智能存在一個古怪的矛盾:在解決千禧年大獎問題和複雜數學上超越人類,卻在自動化基本會計、數據輸入或保險承保上徹底失敗。Diogo Almeida 觀察到這個鴻溝數年,而他的答案挑戰了整個產業的假設。

根本原因在於優化。所有主流語言模型都被優化用於生成人類易讀的文本。這個目標造就了 ChatGPT 和 Claude 等聊天機器人的成功,但也摧毀了它們處理需要精確、可靠決策的任務的能力。為什麼?因為生成討人喜歡的文字需要過度自信──模型必須聽起來肯定、流暢、令人信服。但這種自信對決策任務來說是致命毒藥。當一個保險系統以 95% 的自信犯錯時,那就是災難。

Typesafe 的 Jev 代表截然不同的路徑。Diogo 和他的團隊沒有試圖用文本模型來解決決策問題,反而從零開始重新設計整個訓練過程。他們使用 RLCD(校準決策強化學習)而非 RLHF,這是一套算法和目標的組合,專門優化模型輸出校準的概率而非吸引人的文字。結果是一個「無聊」但可靠的模型:它可能不會寫出優美的散文,但在決定是否批准退款、何時升級客服案件,或者某個賬單是否異常時,你可以信任它的概率估計。

核心洞察是「你得到你優化的東西」。這適用於機器學習的所有層面。OpenAI 的團隊在 2015-2020 年發現,只要有足夠的計算、數據和正確的任務設計,你可以創造驚人的東西。RLHF 本身就是這樣的任務創新:在此之前,互聯網上沒有人類對語言模型完成的比較偏好數據,因為這是一個奇怪的概念。但一旦 OpenAI 團隊意識到這是方向,他們投入資源創造了這種數據,最終革新了整個產業。

Jev 代表同樣的轉變,但針對不同的目標。Diogo 指出,Bitter Lesson(計算和規模比聰明算法更重要)在遊戲中最為明顯,但在現實應用中,數據實際上更受限制。你需要找到正確的任務──那個北極星──然後圍繞它進行優化。對於 RLHF,正確的任務是「生成人類喜歡的文本」。對於 RLCD,正確的任務是「做出軟體可以依賴的可校準決策」。

但 Jev 不是聊天機器人,也不是像 Claude Code 那樣的代理框架。它是一個原語,一個構件。開發者必須將其嵌入自己的代碼中,並提供業務邏輯:這個決策值多少成本?我們現在有多少容量?根據這些輸入,Jev 提供概率,開發者的代碼決定行動。這種方法看起來不如「讓代理自由運行」那麼炫目,但 Diogo 論證,真正的自動化不是想法的魔法,而是精心設計的軟體與可靠智能層的結合。

討論中 Diogo 多次回到同一個主題:大多數人誤解了 Jev。有些人看到決策輸出就說「那只是分類器」。有些人著迷於速度和成本。但真正的創新在於智能本身──模型實際上理解決策任務,而非被迫用於不適合的目的。他強調,如果你用文本模型加上一個分類器頭,你只得到文本模型的智能加上簡單迴歸的智能,這不足以自動化真實工作。

83 min
企業管理英文PODCAST11月19日

Scaling Linear’s GTM to $100M ARR — Cristina Cordova, COO

Latent Space看原片 ↗
  • 議題追蹤已死的真正含義:不是issue單位消失,而是人類應停止手動追蹤工作。Linear著重構建AI友善的系統,讓代理自動執行原本由人工完成的繁瑣步驟(標籤、指派、狀態更新),讓工程師和PM把時間花在產品開發上。
  • 務實的市場階梯策略:Linear沒有直接攻擊企業市場,而是先聚焦成長期公司—那些已有既有工具但可被說服轉換的組織。唯有成功說服這個客群,才有信心向上攻擊企業。這個策略花了兩年時間,直到2025年才正式啟動企業銷售部門。
98 min
AI 技術英文PODCAST11月16日

Building Visual Intelligence — Andreas Blattmann & Dustin Podell, Black Forest Labs

Latent Space看原片 ↗
  • 從研究到商業的轉折點:穩定擴散2022年開源不僅改變了講者個人的職涯軌跡,也啟發整個社群。Dustin因此辭職投身AI,Andy看到了基礎模型產業化的可能性,這股動能直接催生Black Forest Labs的創辦。
  • 資料品質優於複雜算法:整個採訪反覆強調資料的重要性。從SDXL的多寬度訓練、SD3的文字渲染,到Flux Context的編輯能力,關鍵都不在算法創新而在精心設計的資料集。Dustin在法國小屋用6小時訓練測試集就看到編輯能力湧現,說明好資