Hermes
Hermes 是 Nous Research 打造的开源 AI Agent。学校的大模型通过 OpenAI 兼容接口接入。
1. 安装 Hermes
唯一前置依赖是 Git,其余内容安装脚本会自动处理。
Linux / macOS / WSL2
curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash更多安装说明请参考 Hermes 安装文档。
2. 运行并配置
在 我的令牌 中创建并复制您的 API Key。重新加载 shell 后,开始配置 Hermes:
- 执行
hermes setup命令(已完成初始化时,改用hermes model单独切换模型); - 选择 Quick Setup;
- 当提示选择模型提供商时,选择 Custom endpoint(自定义端点);
- API base URL 填写
https://chat.ecnu.edu.cn/open/api/v1; - API key 填写您的 API Key;
- Model name 填写
ecnu-max(或ecnu-plus); - 继续完成其余配置选项。
3. 用命令写入配置
也可以跳过向导,用 hermes config set 直接写入配置(把 your_api_key 替换为您的 API Key):
hermes config set model.default ecnu-max
hermes config set model.provider custom
hermes config set model.base_url https://chat.ecnu.edu.cn/open/api/v1
hermes config set model.key_env CHATECNU_API_KEY
hermes config set model.context_length 512000
hermes config set CHATECNU_API_KEY your_api_key前五条修改 ~/.hermes/config.yaml 中已有的 model: 一节,最后一条把 API Key 写入 ~/.hermes/.env。
如果更习惯手动编辑,请修改 model: 一节下已有的 default、provider、base_url 三项,并在该节下新增 key_env 和 context_length 两项,最终效果如下;再在 .env 末尾加一行 CHATECNU_API_KEY=your_api_key:
model:
default: ecnu-max
provider: custom
base_url: https://chat.ecnu.edu.cn/open/api/v1
key_env: CHATECNU_API_KEY
context_length: 512000| 字段 | 说明 |
|---|---|
default | 默认模型,可选 ecnu-max、ecnu-plus |
provider | 固定为 custom,表示自定义的 OpenAI 兼容端点 |
base_url | 平台的 OpenAI 兼容端点 |
key_env | 保存 API Key 的环境变量名,值写在 ~/.hermes/.env 中 |
context_length | 模型的上下文窗口:ecnu-max 为 512000,ecnu-plus 为 256000。Hermes 要求窗口不小于 64K,端点未返回窗口信息时会按默认值估算,建议显式填写 |
4. 开始使用
配置完成后执行 hermes 即可开始对话。如果想先快速验证配置,可以执行下面的命令,应当直接打印模型的回答:
hermes chat -q "你好" -Q注意:Hermes 安装后,
~/.hermes/config.yaml和~/.hermes/.env中已有完整的默认配置,请不要用上面的片段整个覆盖它们。
注意:思考模式默认关闭,详见 思考模式。通过
/reasoning或--reasoning指定思考强度时,ecnu-max使用low/high/max,ecnu-plus使用low/medium/xhigh,对话接口收到ecnu-plus不支持的档位(例如high)时会返回 500 错误。
注意:
ecnu-max同时最多处理 3 个请求,ecnu-plus为 5 个,超出会返回 429,详见 配额限制。