前言:為什麼要把 Hermes 接上 OpenAI
Hermes 預設跑本機 Ollama 模型(qwen3.8:27b、gpt-oss:20b),優點是免費、不花錢;缺點是本機 ARM 機上 tok/s 不高、長 context 慢。想讓某一條 profile(例如 designer)用 OpenAI 的快模型,只要把 API key 接上、把模型指過去——這篇文章整理完整流程、實際踩到的坑,以及「免費額度」到底怎麼算。
一、先搞清楚:OpenAI 的「免費額度」是兩回事
這是常被混在一起講的兩件事:
- 信用額度(Credit Balance)——你的錢包。新帳號通常有一筆小的免費 credit(以登入後 Billing 頁面顯示為準),用完就要加值。這才是「免費」的部分。
- 使用層級(Usage Tier,Tier 1 / 2 / 3)——不是免費度,而是速率限制。Tier 越低,每分鐘可發的請求和 token 上限越緊;累積消費到門檻(或加值到門檻)之後 Tier 才能往上走,Tier 3 基本暢用。
結論:免費 credit 決定「可以用多久」,Tier 決定「單位時間能打多快」,兩件事要分開看。
確認目前帳號層級(實測步驟)
- 開
https://platform.openai.com(要登進 API 平台,不是 ChatGPT) - 上方選單 Settings → Limits / Billing
- 會看到:
- Current usage tier:Tier 1 / 2 / 3
- Credits remaining:剩多少免費額度
- 各模型的 rate limit(RPM / TPM)— 以該頁表格為準,各模型、各 tier 數字不同
小提示:同一個 API key 對應的 org 才有 tier;如果你有多個帳號,先確認你要用哪個,key 也是那個帳號發的。
二、建立 API Key
platform.openai.com→ API keys → Create new secret key- 記下 key(以
sk-開頭)。離開頁面後就再也看不到完整 key——存進檔案或密碼管理器 - 權限建議依需求最小化;別用超級管理員 key
- 這個 key 就是帳單歸屬:之後 Hermes 每打一個 token 都算在你這把 key 上
三、把 OpenAI 接到 Hermes(實測流程)
以下每個指令都在 designer profile 實測過(2026-10-21):
1. 把 key 放進 .env(金鑰絕不過 chat)
# 用你的 profile 的 .env(預設在 ~/.hermes/.env,profile 各有獨立一份)
echo 'OPENAI_API_KEY=***' >> ~/.hermes/profiles/designer/.env
chmod 600 ~/.hermes/profiles/designer/.env
Hermes 的約定:secret 放 .env,一般設定放 config.yaml。放對了,log / 輸出 / 回應都會自動把 key 遮蔽成 ***。
2. 切換 provider 和模型
hermes --profile designer config set model.provider openai
hermes --profile designer config set model.default gpt-4o-mini
gpt-4o-mini 是「聰明 / 便宜 / 快」三者平衡的常見選擇;要更強可以換更高階模型,但單次成本會差几十倍,先跑 mini 驗證通話再升。
3. 清掉 Ollama 殘留(最容易漏)
如果這個 profile 之前指向本機 Ollama,config 裡會有兩個欄位蓋過你的 OpenAI 設定:
model:
base_url: http://127.0.0.1:11434/v1/ # 這行會讓所有請求打到本機
api_key: ollama # 這行會讓 OpenAI 401
必須清:
hermes --profile designer config unset model.base_url
hermes --profile designer config unset model.api_key
沒清的話,你會看到「OpenAI API 401 / 找不到模型」的假象,其實是請求被打回 127.0.0.1:11434。
4. 重啟 gateway
每支 profile 有獨立的 systemd user service,例如 designer 是 hermes-gateway-designer。重啟指令要在 gateway 外面的 terminal 跑(gateway 內部會擋住自我重啟):
systemctl --user restart hermes-gateway-designer
5. 驗證(兩層)
# 層 1:CLI 直跑,確認 OpenAI 真的回
hermes --profile designer chat -q 'Reply with exactly: OK'
層 2:在 designer 的 Telegram bot 發 /status,應看到:
Model: gpt-4o-mini
四、真正的坑:舊 session 還鎖著舊模型
改完 config、重啟完 gateway,發 /status 卻看到 gpt-oss:20b(本機模型)——那是這個 session 之前用 /model 切過的舊值。Hermes 允許「session-level model override」,會蓋過 config 預設。
解法(二擇一):
- 在這個 bot 對話發
/new— 開新 session,吃 config 預設 = gpt-4o-mini - 或在現 session 發
/model gpt-4o-mini— 本 session 直接切
/new 是乾淨做法;/model 是「保留這個 session 的記憶 / context」的做法。
五、注意事項(成本、Tier、安全)
1. 成本:context 比你以為的大
Hermes 每一回合都帶 system prompt + tools + 歷史 context,一次 API call 進到 10 萬 token 很平常。gpt-4o-mini 單 turn 大概 $0.01~0.03;更高階模型可能一個 turn $3~15。建議:
- 開 Billing → Set budget alert,把月預算鎖在 $5~$20,超了會收到 mail
- 跑長任務前先估:每回合平均 input token × 單價 × 預估回合數
2. Tier 卡住(429 Too Many Requests)
Tier 1 的 RPM 很緊,連發幾條就 429。解法:降頻、換更便宜的模型、累積消費升 Tier(門檻以 Billing 頁顯示為準)、或用 hermes fallback 接備援 provider。
3. API key 安全
- 永遠不要把 key 貼在 chat、Telegram、GitHub 或任何公開處
- Hermes 的 secret-redaction 會遮蔽輸出,不代表你可以亂放
- 如果 key 洩漏:立刻回平台 Revoke,重發一把、改 .env、重啟 gateway
4. .env 權限
chmod 600 ~/.hermes/profiles/designer/.env
只有 owner 可讀;多 user 主機上尤其重要。
5. 別混 OpenAI 和 Ollama
同一台機器上,OpenAI 打 api.openai.com,Ollama 打 127.0.0.1:11434。不要指望 .env 同時開兩個 provider 然後自動切——那要用 model_aliases + key_env 明確指定。
6. 本地模型仍是備援
OpenAI 掛、429、斷網時,fallback 回本機 gpt-oss:20b 或 qwen3.8:27b 能繼續跑(慢但可用)。用 hermes fallback add 設好。
小結
| 步驟 | 一句話 |
|---|---|
| 看 Tier | platform.openai.com → Billing / Limits |
| 建 key | API keys → Create,離開頁面就看不到了 |
| .env | OPENAI_API_KEY=sk-…(600 權限、不入 chat) |
| config | set model.provider openai + set model.default gpt-4o-mini |
| 清 Ollama 殘留 | unset model.base_url + unset model.api_key(漏掉最悲) |
| 重啟 | gateway 外面的 terminal 跑重啟指令 |
| 驗證 | CLI chat -q + bot /status |
| 舊 session | /status 還舊模型 → 發 /new |
| 控成本 | Billing 設 budget alert,鎖 $5~$20/月 |
接上 OpenAI 之後,Hermes 的 designer profile 就能跑雲端模型,成本可預期、Tier 可觀察、本地模型留當備援。這套流程在 coder、tester 或任何 profile 都可以重用。






