このプロジェクトについて

Unslothは、ローカルAIのための包括的なエコシステムを提供しており、Unsloth Desktop(ネイティブアプリ)、Unsloth Studio(Web UI)、Unsloth Core(コードベース)の3つの主要なインターフェースを備えています。NVIDIA、AMD、IntelのGPU、CPU、およびVulkanバックエンドを含む幅広いハードウェアをサポートしています。 主な機能は以下の通りです: - モデルの実行とトレーニング:LLM、拡散モデル、埋め込みモデル、オーディオモデル(例:Qwen、DeepSeek、Gemma 4)の実行とファインチューニングをサポート。最適化されたトレーニングにより、速度が2倍になり、VRAM使用量を70%削減できるとしています。 - トレーニング手法:LoRA、QLoRA、フルファインチューニング、事前学習、強化学習(RL)、GRPO、DPO、およびFP8をサポート。 - エージェント統合:「unsloth start」コマンドにより、OpenAI互換APIを介して、ローカルモデルをClaude CodeやCodexなどのエージェントに接続可能です。 - RAGと検索:プライベートウェブ検索、ディープリサーチ、および検索拡張生成(RAG)機能を搭載。 - デプロイメント:GGUF、NVFP4、FP8を含む様々な形式でモデルをエクスポート可能。 - データ管理:Data Recipesを使用して、PDF、CSV、DOCXファイルからデータセットを構築するツールを提供。 - リモートアクセス:LAN経由、またはCloudflare HTTPSを介して安全にローカルモデルを配信することをサポートしています。