我做了一个牛马语音Agent,用旅行碎片时间帮我完成工作
三句話摘要
用本地AI Agent系統實現邊旅行邊工作的數字游民生活。 Agent時代的真正瓶頸是多Agent的管理與編排,而語音控制配合生成式UI正是實現數字游民生活的技術基石。 語音是Agent時代的任務控制器,不只是輸入方式。當任務異步並發運行時,語音能隨時汇報進度,用戶可即時插入語音指令糾正任務偏差,這是移動場景高效工作的關鍵。
重點整理
重點- 1
語音是Agent時代的任務控制器,不只是輸入方式。當任務異步並發運行時,語音能隨時汇報進度,用戶可即時插入語音指令糾正任務偏差,這是移動場景高效工作的關鍵。
- 2
Codex的commentary通道設計卓越。Codex輸出分為思考、工具調用、最終回複三個通道,其中工具調用時的"喃喃自語"精確適合用於進度汇報,顯著提升了長任務監控的體驗。
- 3
生成式UI比語音回覆更高效。預設結構讓AI用可視化方式呈現進度——車機屏幕顯示DAG圖中各任務狀態,手機確認戶外進度,這是移動場景中的必要設計。
- 4
自學習的任務編排系統持續優化。通過圖譜捕捉任務中的成功/失敗信號,經複盤迭代Agent編排方式,逐漸積累適合本地模型和多Agent執行的任務模式。
實用技巧與重點
乾貨- 語音輸入:本地部署實時ASR + Web HID方式支持大疆無線麥克風
- 主Agent:Codex SDK(顶級智能,負責編排和實時監控)
- 子Agent:Qwen 3.6 27B(本地部署,執行具體任務)
- 技術細節:Harmony格式(GPT-4o、GPT-4.5訓練格式)、Codex commentary通道用於進度汇報
- 架構流程:本地ASR → 主Agent(文本提交) → DAG引擎(工作流編排) → 多Agent執行 → 生成式UI(結果呈現)
- 設備配置:Mac mini + 移動硬盤 + 無人機 + 打印機 + 智能眼鏡(規劃中)
結論
結論“Agent時代的真正瓶頸是多Agent的管理與編排,而語音控制配合生成式UI正是實現數字游民生活的技術基石。”
完整解析
詳細講者以陪伴12歲女兒在海邊生活一個月的故事開篇,揭示了一個根本矛盾:邊陪伴孩子邊工作。傳統做法是在沙灘上打開電腦工作,但現實是碎片化行程讓效率極低。不工作他會焦慮,但這迫使他重新定義問題:與其找時間工作,不如讓工作在陪伴孩子時自動完成。這正是AI Agent時代的新機遇。
為此他開發了「牛馬」系統。架構設計上,本地部署的實時ASR接收語音指令——支持通過大疆無線麥克風按鍵觸發,無需點鼠標。語音轉文本後提交給主Agent(用Codex SDK實現),由它做智能決策和任務拆分。具體任務由本地部署的Qwen 3.6 27B模型執行。講者特別指出一個技術洞察:Codex輸出包含commentary通道(使用工具時的思考過程),這些簡潔的中間狀態汇報非常適合進度通知,配合智能眼鏡時尤其有效,允許用戶隨時用語音插入新指令。
在呈現層面,講者採用生成式UI而非語音回覆。他觀察到AI用語音讀出長段文字很煩人,所以預設多種結構讓AI用可視化方式匯報。例如當任務由多Agent組成DAG圖協作時,車機屏幕能一眼看到各節點執行狀態,戶外則用手機確認,大幅提升了移動場景中的效率。
執行層由DAG引擎驅動,把任務匹配到預設的多Agent工作流。Codex作為編排者實時監控,能重啟或回滾出問題的節點,並管理多個並發任務。更進階的是自學習能力:他建立了圖譜來捕捉任務中的成功與失敗信號,經複盤來迭代Agent編排,逐漸找到更多適合本地模型執行的任務組合。長期願景是完全無人值守——人在路上旅行,任務在家自動完成。
關鍵時刻
Pipeline v2帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。
事實查核
Pipeline v2說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。


