顯示具有 hermes 標籤的文章。 顯示所有文章
顯示具有 hermes 標籤的文章。 顯示所有文章

2026年10月21日 星期三

[OpenAI API] 用免費額度:從 Tier 確認到 Hermes 接入的完整流程 + 踩坑記錄

📺 影片版(約 6 分鐘):想先看實際操作的話可以直接看這支影片,完整步驟、設定與程式碼在下方文字版。
YouTube:https://youtu.be/5kGw4HqSjbE(winson-DIY 頻道)

前言:為什麼要把 Hermes 接上 OpenAI

Hermes 預設跑本機 Ollama 模型(qwen3.8:27b、gpt-oss:20b),優點是免費、不花錢;缺點是本機 ARM 機上 tok/s 不高、長 context 慢。想讓某一條 profile(例如 designer)用 OpenAI 的快模型,只要把 API key 接上、把模型指過去——這篇文章整理完整流程、實際踩到的坑,以及「免費額度」到底怎麼算。

一、先搞清楚:OpenAI 的「免費額度」

OpenAI API 平台有一個「資料共享換每日免費 token」的機制:同意把 API 的輸入與輸出分享給 OpenAI 用來改進模型,系統就每天給一份免費的 token 額度,用完才開始扣儲值餘額。

開啟步驟

  1. 確認帳戶已儲值:帳戶要是 Pay-as-you-go(按量計費),而且有過付費儲值紀錄(至少 $5),才有資格開啟。
  2. 登入 https://platform.openai.com → 左側選單 Settings(齒輪圖示)→ Organization → Data controls。
  3. 找到「Share inputs and outputs with OpenAI」(與 OpenAI 共享輸入和輸出),切到 ON。

注意事項

  • 額度怎麼算:開啟後每天自動重置一份免費 token,只適用於特定模型;各模型的額度與適用範圍以 Data controls 頁面上的說明為準。
  • 代價是資料共享:經過這個組織送出的內容會被拿去改進模型——含個資、公司或客戶資料的請求,不要走這個組織的 key。
  • 用完照常計費:免費額度用完就照一般價格從儲值餘額扣款,所以後面的「預算警示」一樣要設。

確認目前帳號層級(實測步驟)

  1. 開 https://platform.openai.com(要登進 API 平台,不是 ChatGPT)
  2. 左側選單 Settings → Limits
  3. Usage Tiers 區塊顯示目前等級(如上圖):Free tier → Build($5)→ Launch($100)→ Grow($500),累積儲值達門檻會自動升級
  4. 同一頁上方可以設 預算警示(例如花到 80%、100% 時寄信)
  5. 往下的 Rate limits 是各模型的 RPM / TPM — 以該頁表格為準,各模型、各等級數字不同

小提示:同一個 API key 對應的 org 才有 tier;如果你有多個帳號,先確認你要用哪個,key 也是那個帳號發的。

二、建立 API Key

  1. platform.openai.com → API keys → Create new secret key
  2. 記下 key(以 sk- 開頭)。離開頁面後就再也看不到完整 key——存進檔案或密碼管理器
  3. 權限建議依需求最小化;別用超級管理員 key
  4. 這個 key 就是帳單歸屬:之後 Hermes 每打一個 token 都算在你這把 key 上

三、把 OpenAI 接到 Hermes(實測流程)

以下每個指令都在 designer profile 實測過(2026-10-21):

1. 把 key 放進 .env(金鑰絕不過 chat)

# 用你的 profile 的 .env(預設在 ~/.hermes/.env,profile 各有獨立一份)
echo 'OPENAI_API_KEY=***' >> ~/.hermes/profiles/designer/.env
chmod 600 ~/.hermes/profiles/designer/.env

Hermes 的約定:secret 放 .env,一般設定放 config.yaml。放對了,log / 輸出 / 回應都會自動把 key 遮蔽成 ***。

2. 切換 provider 和模型

hermes --profile designer config set model.provider openai
hermes --profile designer config set model.default gpt-4o-mini

gpt-4o-mini 是「聰明 / 便宜 / 快」三者平衡的常見選擇;要更強可以換更高階模型,但單次成本會差幾十倍,先跑 mini 驗證通話再升。

3. 清掉 Ollama 殘留(最容易漏)

如果這個 profile 之前指向本機 Ollama,config 裡會有兩個欄位蓋過你的 OpenAI 設定:

model:
  base_url: http://127.0.0.1:11434/v1/    # 這行會讓所有請求打到本機
  api_key: ollama                          # 這行會讓 OpenAI 401

必須清:

hermes --profile designer config unset model.base_url
hermes --profile designer config unset model.api_key

沒清的話,你會看到「OpenAI API 401 / 找不到模型」的假象,其實是請求被打回 127.0.0.1:11434。

4. 重啟 gateway

每支 profile 有獨立的 systemd user service,例如 designer 是 hermes-gateway-designer。重啟指令要在 gateway 外面的 terminal 跑(gateway 內部會擋住自我重啟):

systemctl --user restart hermes-gateway-designer

5. 驗證(兩層)

# 層 1:CLI 直跑,確認 OpenAI 真的回
hermes --profile designer chat -q 'Reply with exactly: OK'

層 2:在 designer 的 Telegram bot 發 /status,應看到:

Model: gpt-4o-mini

四、真正的坑:舊 session 還鎖著舊模型

改完 config、重啟完 gateway,發 /status 卻看到 gpt-oss:20b(本機模型)——那是這個 session 之前用 /model 切過的舊值。Hermes 允許「session-level model override」,會蓋過 config 預設。

解法(二擇一):

  1. 在這個 bot 對話發 /new — 開新 session,吃 config 預設 = gpt-4o-mini
  2. 或在現 session 發 /model gpt-4o-mini — 本 session 直接切

/new 是乾淨做法;/model 是「保留這個 session 的記憶 / context」的做法。

五、注意事項(成本、Tier、安全)

1. 成本:context 比你以為的大

Hermes 每一回合都帶 system prompt + tools + 歷史 context,一次 API call 進到 10 萬 token 很平常。gpt-4o-mini 單 turn 大概 $0.01~0.03;更高階模型可能一個 turn $3~15。建議:

  • 開 Billing → Set budget alert,把月預算鎖在 $5~$20,超了會收到 mail
  • 跑長任務前先估:每回合平均 input token × 單價 × 預估回合數

2. Tier 卡住(429 Too Many Requests)

Tier 1 的 RPM 很緊,連發幾條就 429。解法:降頻、換更便宜的模型、累積消費升 Tier(門檻以 Billing 頁顯示為準)、或用 hermes fallback 接備援 provider。

3. API key 安全

  • 永遠不要把 key 貼在 chat、Telegram、GitHub 或任何公開處
  • Hermes 的 secret-redaction 會遮蔽輸出,不代表你可以亂放
  • 如果 key 洩漏:立刻回平台 Revoke,重發一把、改 .env、重啟 gateway

4. .env 權限

chmod 600 ~/.hermes/profiles/designer/.env

只有 owner 可讀;多 user 主機上尤其重要。

5. 別混 OpenAI 和 Ollama

同一台機器上,OpenAI 打 api.openai.com,Ollama 打 127.0.0.1:11434。不要指望 .env 同時開兩個 provider 然後自動切——那要用 model_aliases + key_env 明確指定。

6. 本地模型仍是備援

OpenAI 掛、429、斷網時,fallback 回本機 gpt-oss:20b 或 qwen3.8:27b 能繼續跑(慢但可用)。用 hermes fallback add 設好。

小結

步驟 一句話
看 Tier platform.openai.com → Billing / Limits
建 key API keys → Create,離開頁面就看不到了
.env OPENAI_API_KEY=sk-…(600 權限、不入 chat)
config set model.provider openai + set model.default gpt-4o-mini
清 Ollama 殘留 unset model.base_url + unset model.api_key(漏掉最悲)
重啟 gateway 外面的 terminal 跑重啟指令
驗證 CLI chat -q + bot /status
舊 session /status 還舊模型 → 發 /new
控成本 Billing 設 budget alert,鎖 $5~$20/月

接上 OpenAI 之後,Hermes 的 designer profile 就能跑雲端模型,成本可預期、Tier 可觀察、本地模型留當備援。這套流程在 coder、tester 或任何 profile 都可以重用。

更新紀錄

2026-10-28:改寫「免費額度」一節(原本是貼上的 AI 回答,夾帶多餘格式),補上資料共享的隱私提醒;「確認帳號層級」改成與截圖一致的 Free / Build / Launch / Grow 等級。



延伸閱讀

2026年7月1日 星期三

Hermes Agent Profiles:環境搭建、深度解析與擴展指南

Hermes Agent (Nous Research) 允許透過 Profile 來隔離 AI 的行為模式、模型選擇與插件權限。這意味著「同一個軟體,多重人格」。

我現在的系統 - 透過 telegram 詢問

第一部分:您系統現有 Profile 分析

經過全面掃描,您的系統目前搭載了四個核心 Profile,全部指向本機 Ollama (127.0.0.1:11434),硬體為強大的 NVIDIA GB10 GPU。

📊 Profile 綜合比較表

**主要 AI 模型**
• default (預設/主力): qwen3.6:35b-a3b
• designer (設計者): gpt-oss:20b
• tester (測試員): qwen3.6:35b-a3b
• coder (程式碼助手): gemma4:12b-it-q4_K_M

**模型類型**
• default (預設/主力): 密集模型 (A3B)
• designer (設計者): MoE 混合專家
• tester (測試員): 密集模型 (A3B)
• coder (程式碼助手): Q4 壓縮 (節省記憶體)

**定位**
• default (預設/主力): 🌟 全能主力、日常對話、全盤掌控
• designer (設計者): 🎨 多模態設計、圖面分析、創意發想
• tester (測試員): 🔧 系統管理、程式檢查、測試報告
• coder (程式碼助手): 💻 快速編碼、語義理解與輕量指令執行

**硬體需求**
• default (預設/主力): ~29 GB VRAM
• designer (設計者): ~14 GB VRAM
• tester (測試員): ~29 GB VRAM
• coder (程式碼助手): ~8 GB VRAM (最省資源)

**SOUL.md 風格**
• default (預設/主力): 高效能工具型人格
• designer (設計者): 視覺導向、創意人格
• tester (測試員): 嚴格邏輯、驗證型人格
• coder (程式碼助手): 程式碼優先、技術型人格

🧠 深度分析與建議

1. 主力模式 (default / tester):
* 兩者皆使用 qwen3.6:35b-a3b。這是目前 Ollama 內最強大的中文模型,您的 SOUL.md 已寫入 「先分析問題、再查數據、後給結論」 的強大指令,適合執行複雜的系統資源檢查與股市分析。
2. 設計模式 (designer):
* 使用 gpt-oss:20b (MoE)。其優勢在跨領域聯想(例如:AI 輔助繪圖、視覺解析),VRAM 需求量僅約一半,適合與主力模型切換運行。
3. 程式開發 (coder):
* 採用 gemma4 的 Q4 壓縮版本。這是極度省 VRAM 的選擇,特別適合在跑著 ComfyUI (佔用近 20 GB) 時,作為輕量代碼輔助而不撐爆顯存。

以下是我安裝 Hermes 及 增加 profile的安裝步驟

1. 🛠️ 安裝前置作業

請確保系統已安裝 git 套件。如果沒有,請執行以下指令安裝:

sudo apt update && sudo apt install git -y

2. 執行安裝腳本:

curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash

3. 重新載入 Shell:讓終端機環境變數生效:

source ~/.bashrc

4. 依據安裝畫面進行安裝

5. 安裝時請同意啟用背景service 服務

6. 新增profile隔離 各個agent gateway 服務
hermes profile create designer
hermes profile create coder
hermes profile create tester

以coder profile為例, 其他皆相同
model:
  default: qwen3.6:35b-a3b
  provider: custom
  base_url: http://127.0.0.1:11434/v1/
  api_key: ollama
7.為新 Profile 配置 LLM 模型
a. 切換到新 Profile:hermes profile use coder
b. 啟動互動式設定: hermes setup
c. 綁定獨立的 Telegram 網關(Gateway): hermes gateway setup
d. 重啟服務 hermes -p coder gateway restart

6. 對應三個 telegram bot 加入同一個群組



~~~  開始你的 Hermes 之旅!!!




延伸閱讀