このプロジェクトについて
Unslothは、ローカルAIのための包括的なエコシステムを提供しており、Unsloth Desktop(ネイティブアプリ)、Unsloth Studio(Web UI)、Unsloth Core(コードベース)の3つの主要なインターフェースを備えています。NVIDIA、AMD、IntelのGPU、CPU、およびVulkanバックエンドを含む幅広いハードウェアをサポートしています。
主な機能は以下の通りです:
- モデルの実行とトレーニング:LLM、拡散モデル、埋め込みモデル、オーディオモデル(例:Qwen、DeepSeek、Gemma 4)の実行とファインチューニングをサポート。最適化されたトレーニングにより、速度が2倍になり、VRAM使用量を70%削減できるとしています。
- トレーニング手法:LoRA、QLoRA、フルファインチューニング、事前学習、強化学習(RL)、GRPO、DPO、およびFP8をサポート。
- エージェント統合:「unsloth start」コマンドにより、OpenAI互換APIを介して、ローカルモデルをClaude CodeやCodexなどのエージェントに接続可能です。
- RAGと検索:プライベートウェブ検索、ディープリサーチ、および検索拡張生成(RAG)機能を搭載。
- デプロイメント:GGUF、NVFP4、FP8を含む様々な形式でモデルをエクスポート可能。
- データ管理:Data Recipesを使用して、PDF、CSV、DOCXファイルからデータセットを構築するツールを提供。
- リモートアクセス:LAN経由、またはCloudflare HTTPSを介して安全にローカルモデルを配信することをサポートしています。