প্রকল্প সম্পর্কে
Unsloth লোকাল AI-এর জন্য একটি ব্যাপক ইকোসিস্টেম প্রদান করে, যা তিনটি প্রাথমিক ইন্টারফেস অফার করে: Unsloth Desktop (নেটিভ অ্যাপ), Unsloth Studio (ওয়েব UI), এবং Unsloth Core (কোড-ভিত্তিক)। এটি NVIDIA, AMD, Intel GPU, CPU এবং Vulkan ব্যাকএন্ডসহ বিস্তৃত হার্ডওয়্যার সমর্থন করে।
এর মূল সক্ষমতাগুলোর মধ্যে রয়েছে:
- মডেল এক্সিকিউশন এবং ট্রেনিং: LLMs, ডিফিউশন, এমবেডিং এবং অডিও মডেল (যেমন: Qwen, DeepSeek, Gemma 4) চালানো এবং ফাইন-টিউন করার সুবিধা। এর অপ্টিমাইজড ট্রেনিং দাবি করে যে এটি ২ গুণ দ্রুত এবং ৭০% কম VRAM ব্যবহার করে।
- ট্রেনিং টেকনিক: এটি LoRA, QLoRA, ফুল ফাইন-টিউনিং, প্রি-ট্রেনিং, Reinforcement Learning (RL), GRPO, DPO এবং FP8 সমর্থন করে।
- এজেন্ট ইন্টিগ্রেশন: 'unsloth start' কমান্ডের মাধ্যমে OpenAI-কম্প্যাটিবল API ব্যবহার করে লোকাল মডেলগুলোকে Claude Code, Codex এবং অন্যান্য এজেন্টের সাথে সংযুক্ত করা যায়।
- RAG এবং সার্চ: এতে প্রাইভেট ওয়েব সার্চ, ডিপ রিসার্চ এবং Retrieval-Augmented Generation (RAG) সক্ষমতা অন্তর্ভুক্ত রয়েছে।
- ডেপ্লয়মেন্ট: GGUF, NVFP4 এবং FP8 সহ বিভিন্ন ফরম্যাটে মডেল এক্সপোর্ট করার ক্ষমতা।
- ডেটা ম্যানেজমেন্ট: Data Recipes ব্যবহার করে PDF, CSV এবং DOCX ফাইল থেকে ডেটাসেট তৈরি করার টুলস।
- রিমোট অ্যাক্সেস: LAN-এর মাধ্যমে অথবা Cloudflare HTTPS-এর মাধ্যমে নিরাপদে লোকাল মডেল সার্ভ করার সুবিধা।