KeyFrame內部研究專用

💯AI Agent 部署: Hermes Agent + 甲骨文云 + 谷歌云完整实战

MoneyMoneyHome·5月10日週日·18 min中文

三句話摘要

零成本架構:用甲骨文雲免費 ARM 伺服器托管 Hermes Agent,搭配 Google Cloud Vertex AI 呼叫 Gemini 模型,再接入 Telegram Bot,跑通完整 AI Agent 最小閉環。 --- 在 AI Agent 專案驗證前,用甲骨文雲免費 ARM 伺服器托管、Google Cloud 贈金驅動 Gemini,以零成本先跑通完整閉環,比任何設備投資都更有價值。 先驗證再投入,白嫖是風控而非貪便宜。 在專案尚未跑通前就購買 Mac mini、伺服器或充值 Token,屬於未驗證的沉沒成本;正確順序是先用免費資源讓最小閉環可用,確認可行後再談優化與商業化。

重點整理

重點
  • 1

    先驗證再投入,白嫖是風控而非貪便宜。 在專案尚未跑通前就購買 Mac mini、伺服器或充值 Token,屬於未驗證的沉沒成本;正確順序是先用免費資源讓最小閉環可用,確認可行後再談優化與商業化。

  • 2

    甲骨文雲 ARM 是免費 VPS 天花板,足以承載 Hermes Agent。 Hermes Agent 本身不需本地跑大語言模型,主要負責任務調度與工具執行,4 核 24G 記憶體的免費規格完全夠用,且服務可長期在線、不依賴本地電腦。

  • 3

    Vertex AI 與 Google AI Studio 的 API endpoint 不同,需手動替換。 Hermes 預設寫入的是 `generativelanguage` 開頭的 Google AI Studio 地址,Vertex AI 使用的是 `aiplatform` 開頭的 URL 並需帶入 project ID,兩者不相容,需覆蓋 `.env` 與 Gemini native adapter 才能正常通訊。

  • 4

    最小閉環的價值在於排錯順序清晰。 跑通後若出現問題,優先依照鏈路逐一排查:401 錯誤先查 Token 有效性與 project ID;依賴安裝報錯先確認 Linux ARM64 相容性;不要一開始就引入多餘複雜度。

  • 5

    --

實用技巧與重點

乾貨
  • 雲端資源
  • 甲骨文雲 Always Free ARM:最高 4 核 CPU、24G 記憶體,永久免費
  • Google Cloud 新帳號贈金:300 美元(影片演示時剩餘 250 美元)
  • 平台與工具
  • Hermes Agent(GitHub 開源,官方安裝命令一鍵部署)
  • Google Cloud Vertex AI(正式 AI 平台,非 Google AI Studio)
  • Gemini 模型:`gemini-3.1-pro-preview`(Quick Setup 時選擇)
  • Telegram Bot(透過 BotFather 申請 Token)
  • Vertex AI Base URL 格式
  • ```
  • https://aiplatform.googleapis.com/v1/projects/[YOUR_PROJECT_ID]/...
  • ```
  • (非 `generativelanguage` 開頭,安裝時需手動輸入)
  • 操作步驟
  • Google Cloud 建立新專案,關聯帳單帳戶
  • 啟用 Agent Platform API,建立 API Key
  • 記下 Project ID
  • SSH 登入甲骨文雲 ARM 伺服器
  • 執行 Hermes Agent 官方安裝命令
  • Quick Setup 選 Google AI Studio 類型,輸入 API Key 與 Vertex AI URL
  • 設定 Telegram Bot Token(BotFather 申請)
  • 修改 `~/hermes/.env`:替換 `GOOGLE_API_KEY` 與 `GEMINI_BASE_URL`
  • 覆蓋 Gemini native adapter 檔案至安裝路徑(`/usr/local/lib/hermes-agent/`)
  • 重啟 Hermes Agent,測試 CLI 與 Telegram 雙通道
  • 常見報錯排查清單
  • `401 invalid credential` / `permission denied`:檢查 Project ID、Vertex AI API 是否啟用、Token 是否過期
  • 依賴安裝失敗:確認映像檔支援 Linux ARM64
  • --

結論

結論

在 AI Agent 專案驗證前,用甲骨文雲免費 ARM 伺服器托管、Google Cloud 贈金驅動 Gemini,以零成本先跑通完整閉環,比任何設備投資都更有價值。

完整解析

詳細

許多人一聽到 AI Agent 就陷入「要不要買 Mac mini、要不要充值 Token」的焦慮,但講者的核心觀點是:在專案閉環尚未驗通之前,投入資金等同於繳學費。正確的策略是先用零成本資源跑通最小可行路徑,確認整條鏈路有效後,才有優化的依據。這套方案的三個支柱分別是:甲骨文雲 Always Free ARM 伺服器提供「身體」、Google Cloud Vertex AI 提供「大腦(Gemini 模型)」、Hermes Agent 負責把兩者串連起來執行任務。

架構層面,完整的資料流如下:使用者在 Telegram 輸入任務 → Telegram Bot 將訊息轉給甲骨文雲 ARM 上的 Hermes Agent → Hermes Agent 使用 Google Cloud Token 呼叫 Vertex AI → Vertex AI 調用 Gemini 模型推理 → 結果回傳至 Telegram。甲骨文雲之所以選 ARM 機型,是因為其 Always Free 方案最高可達 4 核 CPU、24G 記憶體,在免費 VPS 中屬天花板規格,而 Hermes Agent 本身不需在本機跑大語言模型,主要負責任務調度與工具執行,這個規格完全充裕。

實際部署流程分為三段。第一段在 Google Cloud 側:建立新專案(影片示範名稱為 `hermes-2026-05-09`),關聯帳單帳戶確認贈金已綁定,接著啟用 Agent Platform API,建立 API Key,並記下 Project ID 備用。第二段在甲骨文雲 ARM 伺服器:SSH 登入後執行 Hermes Agent 官方 GitHub 的一鍵安裝命令,Quick Setup 時選擇 Google AI Studio 類型,輸入 API Key,並手動填入 Vertex AI 的 base URL(格式為 `aiplatform` 開頭並帶入自己的 project ID,與預設的 `generativelanguage` 不同)。接著設定 Telegram Bot Token(透過 BotFather 新增機器人取得),完成初始安裝後啟動服務。

然而,初次啟動後測試會立即出現報錯,原因是 Hermes 預設的 Google AI Studio endpoint 與 Vertex AI 不相容。解決方法是修改 `~/hermes/.env` 中的 `GOOGLE_API_KEY` 與 `GEMINI_BASE_URL` 兩個欄位,並將預先準備好的 Gemini native adapter 檔案覆蓋至 Hermes 安裝路徑(`/usr/local/lib/hermes-agent/`)。重啟後,CLI 端與 Telegram Bot 雙通道均可正常與 Gemini 模型通訊,包含天氣查詢、日期識別等工具呼叫均測試通過。

影片最後提醒四個注意事項:免費資源需合規使用,不可濫用;300 美元贈金適合學習驗證,非永久額度;Token 有效期需定期確認,遇 401 錯誤依序排查 project ID、API 啟用狀態與 Token;ARM64 架構安裝依賴或 Docker 映像時需確認 Linux ARM64 相容性。講者強調,這些問題都不複雜,關鍵在於按照鏈路順序逐步排查,而不是一開始就堆疊複雜度。

---

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。