troy

Troy é uma interface de linha de comando projetada para simplificar o processo de ajuste fino e ajuste de preferência de grandes modelos de linguagem (LLMs) diretamente em hardware Apple Silicon. Construído sobre MLX e mlx-lm, ele aproveita a arquitetura de memória unificada dos Macs para permitir treinamento local que normalmente exigiria GPUs de nível workstation em outras plataformas. Os principais recursos incluem: - **Fluxo de trabalho simplificado**: os usuários podem configurar tarefas de treinamento usando um único arquivo YAML e executar comandos como `troy train` para iniciar o processo. - **Execução local**: não há necessidade de serviços em nuvem ou GPUs compatíveis com CUDA; ele roda nativamente em Macs M1/M2/M3. - **Suporte a modelos**: compatível com várias arquiteturas suportadas pelo mlx-lm, incluindo Llama, Qwen, Gemma, Phi e Mistral. Também suporta modelos de visão-linguagem quando instalado com as dependências opcionais de visão. - **Conjunto abrangente de ferramentas**: além do treinamento, Troy fornece utilitários para verificar a compatibilidade do sistema (`troy doctor`), conversar com modelos treinados (`troy chat`), avaliar desempenho (`troy eval`), servir uma API compatível com OpenAI (`troy serve`), exportar para o formato GGUF para outras ferramentas e enviar resultados para o Hugging Face Hub. - **Modos de treinamento flexíveis**: suporta Supervised Fine-Tuning (SFT), Direct Preference Optimization (DPO) e ORPO. A ferramenta tem como objetivo tornar a personalização avançada de modelos acessível a desenvolvedores e pesquisadores com hardware padrão de MacBook, lidando automaticamente com o gerenciamento de memória com base nas capacidades do dispositivo.