Открытый код. Новые возможности.

Unsloth — это десктопное приложение и фреймворк для локального запуска и обучения больших языковых моделей (LLM) и диффузионных моделей на Windows, macOS и Linux.

Troy — это CLI-инструмент для локального дообучения и preference-tuning LLM на Mac с Apple Silicon. Используя MLX, он позволяет обучать модели через простой YAML-конфиг без облака и CUDA.

Oumi — открытая платформа Apache-2.0 для полного жизненного цикла фундаментальных моделей: подготовка данных, обучение и дообучение (SFT, LoRA, QLoRA, GRPO), оценка, синтез данных с LLM-судьями и развёртывание через vLLM/SGLang, с CLI и запуском облачных задач.

LlamaFactory — это Python-фреймворк для эффективного дообучения более 100 больших языковых и мультимодальных моделей с zero-code CLI, Gradio Web UI, LoRA/QLoRA и множеством алгоритмов обучения.

PEFT — это библиотека, предоставляющая современные методы эффективной настройки параметров для адаптации больших предобученных моделей с минимальными вычислительными затратами и затратами на хранение.

LlamaIndex — это open-source фреймворк для данных, предназначенный для создания агентных приложений путем дополнения LLM частными данными.