Hermes 支持自定义 OpenAI 兼容服务。选择支持 Chat Completions、工具调用且上下文至少为 64K 的文本模型。

安装

从 Hermes 官方安装页选择对应系统的安装方式。安装后打开新终端。

使用配置向导

在终端执行:
选择 Custom endpoint (self-hosted / VLLM / etc.),按提示填写: 保存后运行 hermes,开始新会话。

手动配置

也可以编辑当前 Hermes 配置目录下的 config.yaml,默认位于 ~/.hermes/。Windows 原生安装使用用户目录下的 .hermes,WSL 安装使用 WSL 用户目录。
在同目录的 .env 中添加:
替换模型 ID 和密钥,合并到已有配置后重新启动 Hermes。已使用向导保存的用户无需重复手动配置。

开始使用

先发送一个普通问题,再尝试让 Hermes 读取项目 README。到 VC 用量记录查看对应请求。 在会话内使用 /model 切换已配置的模型;新增服务商或更改地址、密钥时,退出会话后运行 hermes model。

常见问题

  • 上下文不足:选择满足 Hermes 最低上下文要求的模型,并填写准确容量。
  • 仍访问原服务商:重新运行向导,确认选中 Custom endpoint 和 VC 地址。
  • 连接失败:执行 hermes doctor,检查 URL、模型名与密钥。
更多配置见 Hermes 官方服务商说明。