llamafactory

LlamaFactory 是一个用于微调大语言模型（LLM）和多模态模型的开源框架。README 重点介绍了对众多模型系列的支持，包括 LLaMA/LLaVA、Mistral、Mixtral、Qwen3/Qwen2.5-VL、DeepSeek、Gemma、GLM、Phi、GPT-OSS、InternVL 等。它集成了广泛的训练方法：继续预训练、监督微调、奖励建模，以及 PPO、DPO、KTO、ORPO 和 SimPO 等偏好或强化学习方法。它还支持全参数、冻结、LoRA 和量化 QLoRA 调优，包括通过 AQLM、AWQ、GPTQ、LLM.int8、HQQ 和 EETQ 实现的 2/3/4/5/6/8 位量化。该项目包含高级优化器和性能技巧：GaLore、BAdam、APOLLO、Adam-mini、Muon、OFT、DoRA、LongLoRA、PiSSA、FlashAttention-2、Unsloth、Liger Kernel、RoPE scaling、NEFTune 和 rsLoRA。最近的更新日志还提到了 Megatron-core 训练后端、SGLang 推理支持，以及对 GPT-OSS、Qwen2.5 Omni、GLM-4.1V-Thinking 和 Intern-S1-mini 模型的微调支持。 LlamaFactory 通过命令行界面和基于 Gradio 构建的 LLaMA Board Web UI 提供零代码使用方式，此外还提供 Colab notebook 以及面向 PAI-DSW 和 Hugging Face Spaces 等平台的云部署模板。微调后的检查点可以导出，并通过 OpenAI 兼容 API、Gradio 界面或 CLI 提供服务，同时可使用 vLLM 或 SGLang 作为更快的推理后端。实验跟踪支持 TensorBoard、WandB、MLflow、SwanLab 和 LlamaBoard。模型和数据集可从 Hugging Face、ModelScope 和 Modelers Hub 下载。README 还提到 Amazon、NVIDIA 和 Aliyun 的使用，并链接到文档、Docker 镜像、示例 notebook 以及该项目的官方博客。