oumi

Oumi는 파운데이션 모델의 엔드투드 수명주기를 다루는 Apache-2.0 오픈소스 플랫폼입니다. 데이터 준비 및 큐레이션, 학습 및 미세 조정, 평가, 배포를 포함합니다. Python 패키지(`oumi`)로 배포되며 명령줄 인터페이스와 바로 사용할 수 있는 YAML 레시피 모음을 제공합니다. README에 설명된 핵심 기능: - 약 10M에서 405B 파라미터까지의 모델 학습 및 미세 조정. 전체 미세 조정, LoRA, QLoRA, SFT, 선호도 튜닝(DPO/KTO), GRPO 강화 학습 등의 기법을 사용합니다. 최근 노트에서는 GRPO를 도구 사용으로 확장하고 도구, 환경(시뮬레이션, 조회, 데이터베이스) 및 에이전트 데이터 합성을 추가하는 내용이 언급되었습니다. - 스트 및 멀티모달(비전-언어) 모델 지원. Qwen, DeepSeek R1, Llama, Falcon, Gemma, OLMo, Phi, InternVL 등의 예제 레시피를 제공합니다. - LLM-as-a-Judge 워크플로를 사용한 데이터 합성 및 큐레이션. 판정자 API와 추론, 판정, 데이터 합성 전반에 걸친 부분 실패 처리를 포함합니다. - `oumi evaluate` 명령과 평가 레시피를 통한 표준 치마크 평가. - vLLM, SGLang 등의 엔진을 사용한 추론 및 배포. fireworks.ai, parasail 같은 제공업체의 전용 추론 엔드포인트를 위한 `oumi deploy` 명령을 제공합니다. - `oumi launch up`을 통한 클라우드 플랫폼(AWS, Azure, GCP, Lambda)에서의 원격 작업 실행. 리소스/클라우드 재정의를 지원합니다. - 오픈 가중치 모델과 상용 API(OpenAI, Anthropic, Vertex AI, Together, Parasail) 모두와의 통합. 배치 API 지원을 포함합니다. - 릴리스 노트에 언급된 분산 학습 지원(FSDP, DeepSpeed, DDP) 및 모델 양자화(AWQ). - Claude, Cursor 같은 도구와의 통합을 위한 `oumi-mcp` MCP 서버. 설치 션으로는 pip/uv(`oumi`, `oumi[gpu]`), Docker 이미지, 실험적 설치 스크립트가 있습니다. 일반적인 CLI 사용법은 `oumi train -c <config>`, `oumi evaluate -c <config>`, `oumi infer -c <config> --interactive`입니다. 이 프로젝트는 심 기능이 안정된 베타 상태라고 밝히며, 문서, 빠른 시작 가이드, 투어, 미세 조정, 증류, 평가, 원격 학습 및 판정을 위한 노트북(Colab) 링크를 제공합니다. README는 제로 보일러플레이트 레시피, 연구를 위한 재현성, 넓은 모델 지원, 벤더 종속 없는 완전한 오소스 커뮤니티 지향 접근 방식을 강조합니다.