前言:為什麼要把 Hermes 接上 OpenAI
Hermes 預設跑本機 Ollama 模型(qwen3.8:27b、gpt-oss:20b),優點是免費、不花錢;缺點是本機 ARM 機上 tok/s 不高、長 context 慢。想讓某一條 profile(例如 designer)用 OpenAI 的快模型,只要把 API key 接上、把模型指過去——這篇文章整理完整流程、實際踩到的坑,以及「免費額度」到底怎麼算。
一、先搞清楚:OpenAI 的「免費額度」
OpenAI API 平台有一個「資料共享換每日免費 token」的機制:同意把 API 的輸入與輸出分享給 OpenAI 用來改進模型,系統就每天給一份免費的 token 額度,用完才開始扣儲值餘額。
開啟步驟
- 確認帳戶已儲值:帳戶要是 Pay-as-you-go(按量計費),而且有過付費儲值紀錄(至少 $5),才有資格開啟。
- 登入
https://platform.openai.com→ 左側選單 Settings(齒輪圖示)→ Organization → Data controls。 - 找到「Share inputs and outputs with OpenAI」(與 OpenAI 共享輸入和輸出),切到 ON。
注意事項
- 額度怎麼算:開啟後每天自動重置一份免費 token,只適用於特定模型;各模型的額度與適用範圍以 Data controls 頁面上的說明為準。
- 代價是資料共享:經過這個組織送出的內容會被拿去改進模型——含個資、公司或客戶資料的請求,不要走這個組織的 key。
- 用完照常計費:免費額度用完就照一般價格從儲值餘額扣款,所以後面的「預算警示」一樣要設。
確認目前帳號層級(實測步驟)
- 開
https://platform.openai.com(要登進 API 平台,不是 ChatGPT) - 左側選單 Settings → Limits
- Usage Tiers 區塊顯示目前等級(如上圖):Free tier → Build($5)→ Launch($100)→ Grow($500),累積儲值達門檻會自動升級
- 同一頁上方可以設 預算警示(例如花到 80%、100% 時寄信)
- 往下的 Rate limits 是各模型的 RPM / TPM — 以該頁表格為準,各模型、各等級數字不同
小提示:同一個 API key 對應的 org 才有 tier;如果你有多個帳號,先確認你要用哪個,key 也是那個帳號發的。
二、建立 API Key
platform.openai.com→ API keys → Create new secret key- 記下 key(以
sk-開頭)。離開頁面後就再也看不到完整 key——存進檔案或密碼管理器 - 權限建議依需求最小化;別用超級管理員 key
- 這個 key 就是帳單歸屬:之後 Hermes 每打一個 token 都算在你這把 key 上
三、把 OpenAI 接到 Hermes(實測流程)
以下每個指令都在 designer profile 實測過(2026-10-21):
1. 把 key 放進 .env(金鑰絕不過 chat)
# 用你的 profile 的 .env(預設在 ~/.hermes/.env,profile 各有獨立一份)
echo 'OPENAI_API_KEY=***' >> ~/.hermes/profiles/designer/.env
chmod 600 ~/.hermes/profiles/designer/.env
Hermes 的約定:secret 放 .env,一般設定放 config.yaml。放對了,log / 輸出 / 回應都會自動把 key 遮蔽成 ***。
2. 切換 provider 和模型
hermes --profile designer config set model.provider openai
hermes --profile designer config set model.default gpt-4o-mini
gpt-4o-mini 是「聰明 / 便宜 / 快」三者平衡的常見選擇;要更強可以換更高階模型,但單次成本會差幾十倍,先跑 mini 驗證通話再升。
3. 清掉 Ollama 殘留(最容易漏)
如果這個 profile 之前指向本機 Ollama,config 裡會有兩個欄位蓋過你的 OpenAI 設定:
model:
base_url: http://127.0.0.1:11434/v1/ # 這行會讓所有請求打到本機
api_key: ollama # 這行會讓 OpenAI 401
必須清:
hermes --profile designer config unset model.base_url
hermes --profile designer config unset model.api_key
沒清的話,你會看到「OpenAI API 401 / 找不到模型」的假象,其實是請求被打回 127.0.0.1:11434。
4. 重啟 gateway
每支 profile 有獨立的 systemd user service,例如 designer 是 hermes-gateway-designer。重啟指令要在 gateway 外面的 terminal 跑(gateway 內部會擋住自我重啟):
systemctl --user restart hermes-gateway-designer
5. 驗證(兩層)
# 層 1:CLI 直跑,確認 OpenAI 真的回
hermes --profile designer chat -q 'Reply with exactly: OK'
層 2:在 designer 的 Telegram bot 發 /status,應看到:
Model: gpt-4o-mini
四、真正的坑:舊 session 還鎖著舊模型
改完 config、重啟完 gateway,發 /status 卻看到 gpt-oss:20b(本機模型)——那是這個 session 之前用 /model 切過的舊值。Hermes 允許「session-level model override」,會蓋過 config 預設。
解法(二擇一):
- 在這個 bot 對話發
/new— 開新 session,吃 config 預設 = gpt-4o-mini - 或在現 session 發
/model gpt-4o-mini— 本 session 直接切
/new 是乾淨做法;/model 是「保留這個 session 的記憶 / context」的做法。
五、注意事項(成本、Tier、安全)
1. 成本:context 比你以為的大
Hermes 每一回合都帶 system prompt + tools + 歷史 context,一次 API call 進到 10 萬 token 很平常。gpt-4o-mini 單 turn 大概 $0.01~0.03;更高階模型可能一個 turn $3~15。建議:
- 開 Billing → Set budget alert,把月預算鎖在 $5~$20,超了會收到 mail
- 跑長任務前先估:每回合平均 input token × 單價 × 預估回合數
2. Tier 卡住(429 Too Many Requests)
Tier 1 的 RPM 很緊,連發幾條就 429。解法:降頻、換更便宜的模型、累積消費升 Tier(門檻以 Billing 頁顯示為準)、或用 hermes fallback 接備援 provider。
3. API key 安全
- 永遠不要把 key 貼在 chat、Telegram、GitHub 或任何公開處
- Hermes 的 secret-redaction 會遮蔽輸出,不代表你可以亂放
- 如果 key 洩漏:立刻回平台 Revoke,重發一把、改 .env、重啟 gateway
4. .env 權限
chmod 600 ~/.hermes/profiles/designer/.env
只有 owner 可讀;多 user 主機上尤其重要。
5. 別混 OpenAI 和 Ollama
同一台機器上,OpenAI 打 api.openai.com,Ollama 打 127.0.0.1:11434。不要指望 .env 同時開兩個 provider 然後自動切——那要用 model_aliases + key_env 明確指定。
6. 本地模型仍是備援
OpenAI 掛、429、斷網時,fallback 回本機 gpt-oss:20b 或 qwen3.8:27b 能繼續跑(慢但可用)。用 hermes fallback add 設好。
小結
| 步驟 | 一句話 |
|---|---|
| 看 Tier | platform.openai.com → Billing / Limits |
| 建 key | API keys → Create,離開頁面就看不到了 |
| .env | OPENAI_API_KEY=sk-…(600 權限、不入 chat) |
| config | set model.provider openai + set model.default gpt-4o-mini |
| 清 Ollama 殘留 | unset model.base_url + unset model.api_key(漏掉最悲) |
| 重啟 | gateway 外面的 terminal 跑重啟指令 |
| 驗證 | CLI chat -q + bot /status |
| 舊 session | /status 還舊模型 → 發 /new |
| 控成本 | Billing 設 budget alert,鎖 $5~$20/月 |
接上 OpenAI 之後,Hermes 的 designer profile 就能跑雲端模型,成本可預期、Tier 可觀察、本地模型留當備援。這套流程在 coder、tester 或任何 profile 都可以重用。
更新紀錄
2026-10-28:改寫「免費額度」一節(原本是貼上的 AI 回答,夾帶多餘格式),補上資料共享的隱私提醒;「確認帳號層級」改成與截圖一致的 Free / Build / Launch / Grow 等級。
延伸閱讀
- Hermes Agent Profiles:環境搭建、深度解析與擴展指南(2026/07)
- CNC 錄片影像與狀態文字融合:方式、步驟與注意事項(2026/10)
- 用 Webcam 監看 FluidNC 運轉:從串流到自動錄影的完整配置(2026/10)
- 用本地 ComfyUI 生成圖片與影片:完整流程與注意事項(2026/10)
- ComfyUI 介紹及與 Telegram 文字生圖的方式(2026/07)













