Mac mini M4 安装 Hermes Agent + Ollama 2026:本地推理与 Custom Endpoint 指南
Hermes Agent(Nous Research)在工具型 Agent 之上增加了分层记忆与可进化的技能。本文介绍如何在 Mac mini M4 上用 Ollama 跑 Hermes Agent,推理留在 localhost:11434,无需云端 API Key。官方:NousResearch/hermes-agent、Ollama。相关:Mac mini M4 OpenClaw + Ollama、大模型内存选购、从 Hermes 迁移到 OpenClaw、SSH 远程接入。
披露说明:可选云 Mac 租用由 VpsGona 提供。Hermes Agent 为 Nous Research 独立开源项目。
大陆开发者若无本机 Mac,可通过 SSH 在 Apple Silicon 云主机上执行相同命令;跨境访问 npm/GitHub 不稳定时,建议在稳定网络下完成 install.sh 与 ollama pull。
为何在 Mac mini M4 上用 Hermes + Ollama
云端 Agent 常「每次对话从零开始」。Hermes 用 MEMORY.md、USER.md 与可搜索会话,让重复任务越用越省事。Ollama 在 Apple Silicon 上提供 OpenAI 兼容 API;M4 的 Metal 加速使 7–14B 量化模型适合交互式工具循环。
可引用结论: 将 Hermes 指向 http://localhost:11434/v1,API Key 留空即可连接默认本地 Ollama。
Hermes 如何连接 Ollama
- 运行
hermes(CLI 或后续配置的频道)。 - 从
~/.hermes/config.yaml读取配置(hermes setup生成)。 - Hermes 向自定义 base URL 发送对话请求。
- Ollama 将
/v1/chat/completions路由到已 pull 的模型。 - 工具在 Mac 上执行,记忆写入
~/.hermes/。
| 存储 | 作用 |
|---|---|
MEMORY.md | Agent 维护的项目与环境笔记 |
USER.md | 你的时区、沟通风格等档案 |
SQLite FTS5 | 可搜索的历史会话 |
Skills | 从任务中沉淀的可复用技能 |
前置条件
- Mac mini M4(或 Apple Silicon)+ macOS 15+
- 16GB 起步跑 7–14B;32GB 再考虑 20B+(见 内存指南)
- 每个大模型预留约 15–25GB 磁盘
- 无本机时可 SSH 到远程 Mac(SSH 指南)
安装步骤(8 步)
- 安装 Ollama:
curl -fsSL https://ollama.com/install.sh | sh curl -s http://localhost:11434/api/tags - 拉取模型:
ollama pull qwen2.5:14b ollama list - 安装 Hermes:
curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash source ~/.zshrc hermes --version - 运行
hermes setup,提供商选 Custom OpenAI-compatible endpoint - Base URL:
http://localhost:11434/v1;API Key 留空;模型名与ollama list一致 - OpenClaw 迁移提示:全新安装选
n;从 OpenClaw 升级可选Y - 若状态栏仍显示 Claude:退出后执行
hermes model切换本地端点 - 发消息验证本地模型标签,并用
ollama ps观察加载
16GB / 32GB 模型选型
| Ollama 标签 | 磁盘 | 16GB 压力 | 适用场景 |
|---|---|---|---|
llama3.2:8b | ~5 GB | 低 | 快速对话、轻量工具 |
qwen2.5:14b | ~9 GB | 中 | 编码与工具调用较强 |
20B+(如 gemma) | 15–20 GB+ | 高—建议 32GB | 内存充足时质量最佳 |
建议: 16GB 优先 qwen2.5:14b 或 llama3.2:8b;32GB 再试更大模型并同时开浏览器工具。
排错
11434 连接被拒绝
现象: ECONNREFUSED 127.0.0.1:11434。
处理: 运行 ollama serve,确认 URL 以 /v1 结尾。
仍显示 Claude 模型
现象: 状态栏为 claude-*。
处理: hermes model 重新选择本地端点与 Ollama 模型名。
Hermes 与 OpenClaw 对比
Hermes 侧重记忆与自学技能;OpenClaw 侧重多 Agent 编排与插件生态(见 OpenClaw + Ollama)。二者可并存,不必二选一。
| 需求 | Hermes + Ollama | OpenClaw + Ollama |
|---|---|---|
| 会话检索 | 内置 FTS5 | 网关记忆插件 |
| 技能演进 | Agent 自动沉淀 | 多为人工维护 |
| 多 Agent 编排 | 偏个人助手 | 编排更强 |
常见问题
还要单独 npm 安装 Hermes 吗?
不需要。官方 curl 安装脚本会通过 uv 配置 Python、Node 等并注册 hermes 命令。
Hermes 连接 Ollama 的 URL?
http://localhost:11434/v1,API Key 留空,必须带 /v1。
为何仍显示 Claude?
安装后执行 hermes model 选择本地端点与模型,再重启 hermes。
16GB Mac mini 选什么模型?
优先 qwen2.5:14b 或 llama3.2:8b,16GB 慎拉 20B+。
与 openclaw migrate 区别?
migrate 是把配置导入 OpenClaw;本文是 Hermes 主程序 + Ollama 推理。