troy

Troy 是一个命令行界面，旨在简化直接在 Apple Silicon 硬件上微调和偏好调优大型语言模型（LLM）的过程。它构建在 MLX 和 mlx-lm 之上，利用 Mac 的统一内存架构，实现通常在其他平台上需要工作站级 GPU 才能完成的本地训练。 主要功能包括： - **简化工作流**：用户可以使用单个 YAML 文件配置训练任务，并执行 `troy train` 等命令来启动流程。 - **本地执行**：无需云服务或兼容 CUDA 的 GPU；它原生运行在 M1/M2/M3 Mac 上。 - **模型支持**：兼容 mlx-lm 支持的各种架构，包括 Llama、Qwen、Gemma、Phi 和 Mistral。安装可选的视觉依赖项后，它还支持视觉语言模型。 - **全面的工具集**：除训练外，Troy 还提供用于检查系统兼容性（`troy doctor`）、与训练后的模型聊天（`troy chat`）、评估性能（`troy eval`）、提供 OpenAI 兼容 API（`troy serve`）、导出为 GGUF 格式以供其他工具使用，以及将结果推送到 Hugging Face Hub 的实用工具。 - **灵活的训练模式**：支持监督微调（SFT）、直接偏好优化（DPO）和 ORPO。 该工具旨在让使用标准 MacBook 硬件的开发者和研究人员也能进行高级模型定制，并根据设备能力自动处理内存管理。