oumi

Oumi 是一个 Apache-2.0 开源平台，覆盖基础模型的端到端生命周期：数据准备与整理、训练与微调、评估以及部署。它以 Python 包（`oumi`）形式分发，带有命令行界面和一组现成的 YAML 配方。 README 中描述的核心能力： - 训练和微调约 10M 到 405B 参数的模型，使用全量微调、LoRA、QLoRA、SFT、偏好调优（DPO/KTO）和 GRPO 强化学习等技术。近期说明提到将 GRPO 扩展到工具使用，并添加工具、环境（模拟、查找、数据库）和智能体数据合成。 - 支持文本和多模态（视觉-语言）模型，并提供 Qwen、DeepSeek R1、Llama、Falcon、Gemma、OLMo、Phi、InternVL 等的示例配方。 - 使用 LLM-as-a-Judge 工作流进行数据合成和整理，包括 judge API 以及跨推理、评判和数据合成的部分失败处理。 - 通过 `oumi evaluate` 命令和评估配方在标准基准上进行评估。 - 使用 vLLM 和 SGLang 等引擎进行推理和部署，并提供 `oumi deploy` 命令，用于在 fireworks.ai 和 parasail 等提供商上创建专用推理端点。 - 通过 `oumi launch up` 在云平台（AWS、Azure、GCP、Lambda）上启动远程作业，并支持资源/云覆盖。 - 与开放权重模型和商业 API（OpenAI、Anthropic、Vertex AI、Together、Parasail）集成，包括批处理 API 支持。 - 发布说明中提到的分布式训练支持（FSDP、DeepSpeed、DDP）和模型量化（AWQ）。 - 一个 `oumi-mcp` MCP 服务器，用于与 Claude 和 Cursor 等工具集成。 安装选项包括 pip/uv（`oumi`、`oumi[gpu]`）、Docker 镜像和实验性安装脚本。典型 CLI 用法是 `oumi train -c <config>`、`oumi evaluate -c <config>` 和 `oumi infer -c <config> --interactive`。该项目声明其处于 beta 阶段，核心功能稳定，并链接到文档、快速入门指南、用于导览、微调、蒸馏、评估、远程训练和评判的 notebook（Colab）。 README 强调零样板配方、研究可复现性、广泛的模型支持，以及完全开源、面向社区且无供应商锁定的方法。