mithril

Mithril 是一个用 Rust 编写的开源多模型编排引擎（带有 Python CLI 包装器），它将多个 LLM 提供商组合到一个统一 API 端点中。该项目的核心价值主张是消除为每个 AI 提供商管理单独集成的需要：用户在一个 YAML 配置文件中定义一个“fellowship”（即一组 AI 模型），然后将任何兼容 Ollama 或兼容 OpenAI 的客户端指向 Mithril 的 API。 编排引擎支持三种提供商类型：本地 GGUF 模型（通过 llama.cpp，免费且私密）、云 API 提供商（Gemini、OpenAI、Anthropic、Groq）和 CLI 工具（Kiro、Junie、GitHub Copilot，或任何具有自己模型访问权限的 CLI）。本地 GGUF 模型作为默认的控制器/路由器，分类传入请求并根据 fellowship 配置将其委派给相应的智能体。智能体通过 NEXT/TASK 协议进行通信，允许它们相互委派工作——例如，编码智能体可以将代码审查任务移交给审查智能体。 该系统同时暴露三种 API 协议：Ollama API（用于 Junie、OpenCode、Open WebUI 等工具）、兼容 OpenAI 的 API（用于 LangChain、LlamaIndex 和自定义 Python 客户端）以及用于 Claude Desktop 集成的 MCP（模型上下文协议）。这意味着现有的 AI 工具无需修改即可连接到 Mithril——只需更改基础 URL。 Mithril 附带 24 种内置工具，涵盖文件操作（读取、写入、编辑、删除、apply_patch）、终端执行（沙箱化）、文件发现（list、grep、find、glob、stats）、Git 集成（status、log、diff、blame、branch）、Web 访问（搜索、抓取）、代码分析（符号搜索、文档大纲）、知识管理（lore 读写）和交互（todo、question）。可以通过 fellowship YAML 授予智能体访问特定工具或所有工具的权限。 安装方式灵活：Linux/macOS 一键 shell 脚本、pip install 用于 Python/Jupyter 环境、macOS/Linux 的 Homebrew tap、适用于所有主要平台的独立预编译二进制文件（Linux x86_64/ARM64、macOS Apple Silicon/Intel、Windows x86_64）、Docker（单个容器或 Docker Compose），以及使用 Cargo 从源码构建。API 密钥使用 Argon2id + AES-256-GCM 加密存储在本地配置文件中，或通过环境变量在 Docker/CI 部署中传递。 CLI 包含一个带制表符补全的交互式 REPL、全屏 TUI 模式、用于 CI/脚本的非交互式执行、文件展开（@file）、智能体路由（#agent）、计划/构建模式、撤销/重做、会话持久化、自定义命令和钩子。还提供 Telegram 机器人模式，可通过 Telegram 与同一个 fellowship 聊天。 用例包括作为 AI 编码助手（Junie、OpenCode）的后端、通过 Docker 为团队提供共享编排后端、通过 pip 进行 Python 数据科学集成，以及作为 Claude Desktop 的 MCP 服务器。该架构设计为可扩展——可以通过 fellowship 配置系统添加新的提供商、工具和智能体类型。