Sobre el proyecto
Oumi es una plataforma de código abierto bajo licencia Apache-2.0 que cubre el ciclo de vida completo de los modelos fundacionales: preparación y curación de datos, entrenamiento y ajuste fino, evaluación y despliegue. Se distribuye como un paquete de Python (`oumi`) con una interfaz de línea de comandos y una colección de recetas YAML listas para usar.
Capacidades principales descritas en el README:
- Entrenamiento y ajuste fino de modelos desde aproximadamente 10M hasta 405B de parámetros, utilizando técnicas como ajuste fino completo, LoRA, QLoRA, SFT, ajuste de preferencias (DPO/KTO) y aprendizaje por refuerzo GRPO. Notas recientes mencionan la extensión de GRPO al uso de herramientas y la adición de herramientas, entornos (simulados, de búsqueda, bases de datos) y síntesis de datos agénticos.
- Soporte para modelos de texto y multimodales (visión-lenguaje), con recetas de ejemplo para Qwen, DeepSeek R1, Llama, Falcon, Gemma, OLMo, Phi, InternVL y otros.
- Síntesis y curación de datos mediante flujos de trabajo LLM-como-juez, incluyendo una API de juez y manejo de fallos parciales en inferencia, evaluación y síntesis de datos.
- Evaluación en benchmarks estándar a través del comando `oumi evaluate` y recetas de evaluación.
- Inferencia y despliegue con motores como vLLM y SGLang, además de un comando `oumi deploy` para endpoints de inferencia dedicados en proveedores como fireworks.ai y parasail.
- Lanzamiento de trabajos remotos en plataformas en la nube (AWS, Azure, GCP, Lambda) mediante `oumi launch up`, con anulaciones de recursos y nube.
- Integración tanto con modelos de pesos abiertos como con APIs comerciales (OpenAI, Anthropic, Vertex AI, Together, Parasail), incluyendo soporte para APIs por lotes.
- Soporte para entrenamiento distribuido (FSDP, DeepSpeed, DDP) y cuantización de modelos (AWQ) mencionado en las notas de lanzamiento.
- Un servidor MCP `oumi-mcp` para integración con herramientas como Claude y Cursor.
Las opciones de instalación incluyen pip/uv (`oumi`, `oumi[gpu]`), una imagen Docker y un script de instalación experimental. El uso típico de la CLI es `oumi train -c <config>`, `oumi evaluate -c <config>` e `oumi infer -c <config> --interactive`. El proyecto indica que está en beta con características centrales estables, y enlaza a documentación, guías de inicio rápido, cuadernos (Colab) para recorridos, ajuste fino, destilación, evaluación, entrenamiento remoto y evaluación con jueces.
El README enfatiza recetas sin código repetitivo, reproducibilidad para investigación, amplio soporte de modelos y un enfoque completamente de código abierto y orientado a la comunidad, sin bloqueo de proveedor.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.