troy

Troy est une interface en ligne de commande conçue pour simplifier le processus de fine-tuning et de preference-tuning de grands modèles de langage (LLMs) directement sur du matériel Apple Silicon. Construit sur MLX et mlx-lm, il tire parti de l'architecture de mémoire unifiée des Macs pour permettre un entraînement local qui nécessiterait ailleurs des GPU de station de travail. Les fonctionnalités clés incluent : - **Workflow simplifié** : les utilisateurs peuvent configurer les tâches d'entraînement à l'aide d'un seul fichier YAML et exécuter des commandes comme `troy train` pour lancer le processus. - **Exécution locale** : aucun besoin de services cloud ni de GPU compatibles CUDA ; il s'exécute nativement sur les Macs M1/M2/M3. - **Prise en charge des modèles** : compatible avec diverses architectures prises en charge par mlx-lm, notamment Llama, Qwen, Gemma, Phi et Mistral. Il prend également en charge les modèles vision-langage lorsqu'il est installé avec les dépendances vision optionnelles. - **Boîte à outils complète** : au-delà de l'entraînement, Troy fournit des utilitaires pour vérifier la compatibilité du système (`troy doctor`), discuter avec des modèles entraînés (`troy chat`), évaluer les performances (`troy eval`), servir une API compatible OpenAI (`troy serve`), exporter au format GGUF pour d'autres outils, et pousser les résultats vers Hugging Face Hub. - **Modes d'entraînement flexibles** : prend en charge le Supervised Fine-Tuning (SFT), la Direct Preference Optimization (DPO) et ORPO. L'outil vise à rendre la personnalisation avancée des modèles accessible aux développeurs et chercheurs disposant de matériel MacBook standard, en gérant automatiquement la mémoire en fonction des capacités de l'appareil.