把多个 LLM Provider、API Key、模型路由和多模型讨论统一成一个本地 MCP 网关。 一个本地MCP网关，将许多LLM提供商、API密钥、路由规则和多模型讨论集成一个工具表面。

中文 |英语

适合这些场景：

• 你同时使用 Z.ai Coding Plan、DeepSeek、OpenAI 兼容 API、Anthropic 兼容 API、Claude Code CLI 等多套模型。
• 你不想把 API Key 写进提示词、脚本或 Codex 配置里。
• 你希望在 Codex / Claude / 其他 MCP 客户端里用同一组工具完成：单模型调用、多模型对比、流水线、HeavySkill 式多轮讨论。
• 你需要让最强的主控模型主持讨论，而不是把全部判断交给某一个 Provider。

本项目是本地优先工具：Provider 注册表保存在 ~/.config/qiaomu-llm/registry.json，密钥默认放在 macOS Keychain，MCP server 只暴露“密钥是否存在”，不会返回明文 Key。

你能得到什么

安装后，MCP 客户端会看到这些工具：

推荐工作流

qiaomu-llm-mcp

把多个 LLM Provider、API Key、模型路由和多模型讨论统一成一个本地 MCP 网关。 A local MCP gateway that turns many LLM providers, API keys, routing rules, and multi-model discussions into one tool surface.

中文 | English

适合这些场景：

• 你同时使用 Z.ai Coding Plan、DeepSeek、OpenAI-compatible API、Anthropic-compatible API、Claude Code CLI 等多套模型。
• 你不想把 API Key 写进提示词、脚本或 Codex 配置里。
• 你希望在 Codex / Claude / 其他 MCP 客户端里用同一组工具完成：单模型调用、多模型对比、流水线、HeavySkill 式多轮讨论。
• 你需要让最强的主控模型主持讨论，而不是把全部判断交给某一个 Provider。

本项目是本地优先工具：Provider 注册表保存在 ~/.config/qiaomu-llm/registry.json，密钥默认放在 macOS Keychain，MCP server 只暴露“密钥是否存在”，不会返回明文 Key。

你能得到什么

安装后，MCP 客户端会看到这些工具：

推荐工作流

用户问题
  |
  +-- qllm_route_task 选择模型
  |
  +-- qllm_chat / qllm_compare / qllm_pipeline
  |
  +-- 复杂议题: qllm_heavy_discuss
        |
        +-- 多模型独立给观点
        +-- Codex 或指定模型主持
        +-- qllm_heavy_render 输出 Markdown / HTML

这套设计的核心不是“多叫几个模型凑热闹”，而是让不同模型承担不同角色：快速模型做初稿，强推理模型做审查，写作模型做表达，Codex 作为当前工作区里的主持人整合上下文和行动方案。

快速开始

1. 准备环境

要求：

• macOS 或 Linux
• Python 3.10+
• 一个支持 MCP 的客户端，例如 Codex、Claude Desktop、Claude Code、Cursor 等
• 至少一个 LLM Provider 的 API Key

克隆项目：

git clone https://github.com/joeseesun/qiaomu-llm-mcp.git
cd qiaomu-llm-mcp

如果你还没有 GitHub 版本，也可以先在本地目录安装：

cd /path/to/qiaomu-llm-mcp

2. 安装 Python 依赖

python3 -m venv .venv
.venv/bin/python -m pip install -U pip
.venv/bin/python -m pip install -e .

确认可执行文件存在：

test -x .venv/bin/qiaomu-llm-mcp && echo "qiaomu-llm-mcp installed"
.venv/bin/python -c "import qiaomu_llm_mcp; print(qiaomu_llm_mcp.__version__)"

MCP server 通常通过 stdio 被客户端启动。直接运行时它会等待 MCP 客户端消息，这是正常现象。

3. 创建 Provider 注册表

复制示例配置：

mkdir -p ~/.config/qiaomu-llm
cp examples/registry.example.json ~/.config/qiaomu-llm/registry.json

编辑 ~/.config/qiaomu-llm/registry.json，保留你要用的 Provider，删除不用的 Provider。

示例中的 Z.ai Coding Plan 使用专用 Coding endpoint：

{
  "base_url": "https://api.z.ai/api/coding/paas/v4",
  "default_model": "glm-5.2"
}

注意：Z.ai Coding Plan 要使用 https://api.z.ai/api/coding/paas/v4，不要误用通用 endpoint https://api.z.ai/api/paas/v4。

4. 把 API Key 放进 Keychain

推荐使用 Keychain，不要把明文 Key 写入配置文件。

Z.ai：

security add-generic-password -U \
  -s qiaomu-llm \
  -a zai-glm \
  -w "$ZAI_API_KEY"

DeepSeek：

security add-generic-password -U \
  -s qiaomu-llm \
  -a deepseek \
  -w "$DEEPSEEK_API_KEY"

Anthropic-compatible Provider：