오픈 소스. 새로운 가능성.

Unsloth는 Windows, macOS, Linux에서 대규모 언어 모델(LLM) 및 확산 모델을 로컬로 실행하고 학습시킬 수 있는 데스크톱 애플리케이션이자 프레임워크입니다.

Troy는 Apple Silicon Mac에서 로컬로 LLM을 파인튜닝 및 선호도 튜닝하기 위한 CLI 도구입니다. MLX를 사용하여 클라우드나 CUDA 없이 간단한 YAML 설정으로 모델을 학습할 수 있습니다.

Oumi는 데이터 준비, 학습 및 미세 조정(SFT, LoRA, QLoRA, GRPO), 평가, LLM 판정자를 통한 데이터 합성, vLLM/SGLang 배포까지 파운데이션 모델의 전체 수명주기를 지원하는 오픈소스 플랫폼입니다. CLI와 클라우드 작업 실행 기능을 제공합니다.

LlamaFactory는 100개 이상의 대규모 언어 및 멀티모달 모델을 효율적으로 파인튜닝하기 위한 Python 프레임워크로, 제로코드 CLI, Gradio 웹 UI, LoRA/QLoRA 및 다양한 학습 알고리즘을 제공합니다.

PEFT는 최소한의 계산 및 저장 비용으로 대규모 사전 학습 모델을 조정할 수 있는 최신 매개변수 효율적 미세 조정(Parameter-Efficient Fine-Tuning) 방법을 제공하는 라이브러리입니다.

LlamaIndex는 LLM에 프라이빗 데이터를 결합하여 에이전트 기반 애플리케이션을 구축하도록 설계된 오픈 소스 데이터 프레임워크입니다.