unsloth — Unsloth est une application de bureau et un framework permettant d'exécuter et d'entraîner des modèles de langage (LLM) et des modèles de diffusion localement sur Windows, macOS et Linux.

Unsloth est une application de bureau et un framework permettant d'exécuter et d'entraîner des modèles de langage (LLM) et des modèles de diffusion localement sur Windows, macOS et Linux.

À propos du projet

Unsloth propose un écosystème complet pour l'IA locale, offrant trois interfaces principales : Unsloth Desktop (application native), Unsloth Studio (interface web) et Unsloth Core (basé sur le code). Il prend en charge un large éventail de matériels, notamment les GPU NVIDIA, AMD, Intel, les CPU et le backend Vulkan. Les capacités clés incluent : - Exécution et entraînement de modèles : Prise en charge de l'exécution et du réglage fin (fine-tuning) des LLM, des modèles de diffusion, d'embedding et audio (par exemple, Qwen, DeepSeek, Gemma 4). Il propose un entraînement optimisé qui se veut 2x plus rapide avec une utilisation de VRAM réduite de 70 %. - Techniques d'entraînement : Prise en charge de LoRA, QLoRA, du réglage fin complet, du pré-entraînement, de l'apprentissage par renforcement (RL), GRPO, DPO et FP8. - Intégration d'agents : La commande 'unsloth start' connecte les modèles locaux à des agents tels que Claude Code, Codex et d'autres via des API compatibles OpenAI. - RAG et recherche : Inclut la recherche web privée, la recherche approfondie et des capacités de génération augmentée par récupération (RAG). - Déploiement : Possibilité d'exporter des modèles dans divers formats, notamment GGUF, NVFP4 et FP8. - Gestion des données : Outils pour construire des ensembles de données à partir de fichiers PDF, CSV et DOCX à l'aide de Data Recipes. - Accès à distance : Prise en charge du service de modèles locaux via LAN ou de manière sécurisée via Cloudflare HTTPS.