KeyFrame內部研究專用

I Spent Two Years Building the Median — Hariprasad Sudharshan

AI Engineer英文
觀看原始影片

三句話摘要

AI時代軟體開發中,如何避免建立同質化的「中位數」產品,透過「新意」實現真正的競爭優勢。 在AI輔助開發時代,勝負不在模型選擇或提示詞技巧,而在於執著地追求某個特定問題的最佳解決方案,並將「新意」視為比代碼本身更稀缺且更有價值的預算來投資。 軟體基礎不變,AI只是加速器:世界仍運行在70年來精心打造的確定性軟體上,AI的價值在於以最低成本加速確定性軟體開發,以及寫出預算不足時無法實現的複雜軟體,而非取代軟體的可靠性基礎。

重點整理

  1. 軟體基礎不變,AI只是加速器:世界仍運行在70年來精心打造的確定性軟體上,AI的價值在於以最低成本加速確定性軟體開發,以及寫出預算不足時無法實現的複雜軟體,而非取代軟體的可靠性基礎。

  2. 模型比較其實是編制系統比較:Claude Code對Cursor的比較不是模型比較,而是比較運動員與整套訓練系統。模型只是引擎,真正的差異來自工具鏈、上下文、指令、編排、記憶體和工作流程等編制系統,這些所有人都能平等取得。

  3. 「建立優先反射」造成同質化陷阱:AI讓開發變得容易(2分鐘搭架構、2小時工作演示、4週上線),導致人們跳過研究直接建立,結果市場充斥著相同的解決方案,沒有人抄襲但全部雷同,就像所有人用同一個餅乾模具切出同樣的麵團。

  4. 新意是稀缺的預算:突破中位數需要至少一單位的真正新意(像Google的PageRank),應將其納入產品路線圖、像管理專案支出一樣謹慎評估,並以「成為世界上該問題的最佳解決方案」為目標,而非追逐模型升級或提示詞技巧。

實用技巧與重點

  • 模型評分數據:
  • Anthropic:1503分
  • Mistral:1460分
  • 相差87分(不代表智慧差87點,而是相對排名)
  • 開發時程(建立優先反射的典型路徑):
  • 2分鐘:完成架構搭建
  • 2小時:工作演示
  • 4週:正式啟動產品
  • 開源模型運行成本的10層技術棧:
  • ML Ops
  • SRE(規模不同)
  • 精確KV快取優化
  • 批次處理
  • 執行平行化
  • 系統利用率(無法購買,必須自建)
  • 四項規則(擊敗中位數):
  • 高度主觀——主觀意見是AI時代最廉價的新意
  • 認可「提示到生產」是中位數路線(無須否定)
  • AI說「完成」時才是真正工作開始(AI提供最後一個免費的偉大設計,不會發明Kubernetes、Zookeeper級別的創新)
  • 尋找下一個架構級別的突破
  • 三個決策問題(評估產品新意):
  • 誰已經做過這個?(強制進行搜尋,制馬建立優先反射)
  • 我們有什麼別人沒有的?(將新意變為團隊第一類公民)
  • 這個應用在哪裡存在?(強制結果導向思維,避免只有演示沒有流量)
  • 開源模型vs雲端Token成本對比:
  • 開源權重:免費
  • 開源推理:絕非免費,需承擔10層技術棧的運維成本
  • 演講者開發的計算機:量化企業內部運行開源模型 vs 使用雲端Token的實際成本差異
  • 其他數據:
  • 244個市場上存在的同類計算機應用
  • 2年的Token消耗與多個Max plan訂閱

結論

在AI輔助開發時代,勝負不在模型選擇或提示詞技巧,而在於執著地追求某個特定問題的最佳解決方案,並將「新意」視為比代碼本身更稀缺且更有價值的預算來投資。

完整解析

演講者Hari是一位擁有20年開發經驗的產品經理,他在過去兩年深入探索了AI輔助開發,最終得出一個令人警醒的結論:儘管AI讓建立軟體變得前所未有的簡單,但整個軟體產業的基礎仍然由確定性、規則化的代碼驅動,而非概率性的AI模型。他以紐約市為例——如果地鐵停止、支付系統癱瘓、電梯無法運作、電話停止,原因幾乎肯定不是AI,而是傳統軟體的故障。這個100兆美元的全球經濟體系依賴於70年來由人類精心打造的可靠軟體。

AI在這個生態中的真正角色是什麼?演講者認為有兩個關鍵使用案例:以最低成本加速確定性軟體的開發,以及寫出預算不足時無法實現的軟體。但這並不意味著AI本身成為了軟體產業的替代品。事實上,模型、編制系統(harness)、工具、上下文和所有基礎設施仍然是傳統的確定性軟體。

演講者親身經歷了AI時代最具欺騙性的現象:同質化陷阱。他與許多組織的領導者交談,發現一個普遍的誤解——人們以為在比較不同的模型(如Claude和Mistral),但實際上他們在比較編制系統。Anthropic和Mistral在評分上相差87分,但這只是相對排名,並不代表智慧差距。更重要的是,由於所有開發者都能租用相同的模型和編制系統(工具、指令、編排、記憶體、工作流程等),導致一個致命的結果:每個人都能製造出相同的「中位數」產品。

他用自己的計算機應用經歷來說明這一點。在初期的興奮中,他啟動了「建立優先反射」——看到問題就直接指向AI編寫代理進行開發。結果是在2分鐘內完成架構搭建,2小時內有工作演示,4週內上線。這感覺像魔法,但在軟啟動後,他發現了一個令人沮喪的真實:他建立的計算機應用與市場上已存在的244個應用幾乎完全相同。更奇怪的是,沒有人相互抄襲——這種相似性源於一個簡單的事實:所有人都使用同樣的AI工具,因此都得到同樣的答案。

這導致了演講者稱之為「AI slop」(AI垃圾)的現象。但他質疑這個詞的公平性。他認為,對於那些第一次使用AI輔助開發的人來說,這無疑是一項進步——許多人從未有機會成為開發者,而AI使每個人都有可能。但同時,這也暴露了一個無法迴避的問題:當中位數變成免費時,差異就來自於分銷能力,而非產品本身。

為了突破這個困境,演講者提出了四項核心規則。首先,要高度主觀。AI會給出概率性的答案,通常對所有人都相似,但在新意稀缺的時代,主觀意見是最廉價的差異化來源。其次,認知「提示到生產」是中位數路線——沒有什麼錯誤,如果你的目標是內部消費,這完全合理。第三,當AI宣稱工作完成時,你的真正工作才剛開始。AI提供的是最後一個偉大的自由設計,它會做好架構搭建,但不會發明下一個Kubernetes、Zookeeper或Kafka級別的創新。第四,通過三個關鍵問題指導開發:誰已經做過這個(強制進行搜尋)、我們有什麼別人沒有的(強制新意優先)、這個應用在哪裡存在(強制結果導向)。

演講者的最終案例是重新設計了他的計算機應用。這次,他將焦點從技術展示轉向差異化——計算企業內部運行開源模型的真實成本。他發現,開源權重雖然免費,但開源推理遠非免費。企業需要建立一個包含10層技術棧的複雜系統:ML Ops、SRE運維(規模完全不同)、精確KV快取優化、批次處理、執行平行化和系統利用率。其中許多層需要聘請專家(這些專業人士在業界極為稀缺),有些層則無法購買,必須自己構建。通過這個角度,他創建了一個真正有差異化的計算機,它量化了開源模型在企業環境中的實際成本與雲端Token之間的真實比較。

4 min
AI 技術中文11月21日

Make.com Automation for Beginners: Your First Automation in 10 Minutes

AI Workflow Lab看原片 ↗
  • Make 的核心是「情景」(Scenario) 概念,由多個模組組成,每個模組執行一個應用程式的單一工作。當第一個應用程式中發生事件時,Make 自動將資料傳遞到下一個應用程式,就像一個從不睡眠也不遺忘的數位助手。
  • 映射 (Mapping) 是自動化的核心。使用者需要明確告訴 Make 每筆資料應該放在哪裡,確保表單欄位正確對應到試算表的列,以及郵件內容能夠動態插入客戶資訊。
編輯精選
企業管理英文11月21日

What Anthropic's $900 Billion Bet Means for You

Nate Herk看原片 ↗
  • 訂閱用戶成為上市公司的收益基礎:4000 萬名小客戶(含 Claude Pro、Max、Ultra 或 API 用戶)合計貢獻 25% 的收入,形成 Wall Street 下注的對象。用戶每次訂閱續約都直接影響 Anthropic 股價,
  • 循環融資制造生態系統性風險:Amazon、Google、Broadcom 與 Nvidia 等公司既是投資者、又是運算服務提供商,同時採購 Anthropic 服務,形成相互依賴的閉環。若任一環節需求放緩,所有參與者將同時受創,系統風險無法
編輯精選
AI 技術英文11月20日

6 Lessons I Learned From Installing AI in a $10M Business

Liam Ottley看原片 ↗
  • AI 負責前 80% 工作,人的品味決定最後 20% — 系統一開始生成的提案很基礎,直到 Isaac 的設計師介入決定風格、選擇產品後,品質才大幅提升。需要將品味優秀的員工的規則和案例提供給 AI,讓初版更接近他們的標準。
  • 聚焦單一瓶頸,不要全面改造 — 分析發現提案環節是最大痛點:每月 15-20 張圖、每張 10 小時、成本 $500-1000、9 成無結果。選擇同時改善速度、成本、品質的用例,才是 AI 真正發揮價值的地方。