اوپن سورس۔ نئے امکانات۔

Unsloth ایک ڈیسک ٹاپ ایپلی کیشن اور فریم ورک ہے جو Windows، macOS اور Linux پر مقامی طور پر لارج لینگویج ماڈلز (LLMs) اور ڈیفیوژن ماڈلز کو چلانے اور ٹرین کرنے کے لیے استعمال ہوتا ہے۔

Troy ایک CLI ٹول ہے جو Apple Silicon Macs پر مقامی طور پر LLMs کی fine-tuning اور preference-tuning کے لیے استعمال ہوتا ہے۔ MLX کی مدد سے صارفین آسان YAML config کے ذریعے بغیر cloud یا CUDA کے ماڈلز train کر سکتے ہیں۔

Oumi ایک اوپن سورس پلیٹ فارم ہے جو فاؤنڈیشن ماڈل کے مکمل لائف سائیکل کے لیے ہے: ڈیٹا کی تیاری، تربیت اور فائن ٹیوننگ (SFT، LoRA، QLoRA، GRPO)، تشخیص، LLM ججز کے ساتھ ڈیٹا کی ترکیب، اور vLLM/SGLang کے ذریعے تعیناتی، ایک CLI اور کلاؤڈ جاب لانچنگ کے ساتھ۔

LlamaFactory ایک اوپن سورس فریم ورک ہے جو بڑے لینگویج ماڈلز اور ملٹی موڈل ماڈلز کی فائن ٹیوننگ کے لیے استعمال ہوتا ہے، جس میں کمانڈ لائن انٹرفیس، Gradio ویب UI، LoRA/QLoRA اور متعدد ٹریننگ الگورتھم شامل ہیں۔

PEFT ایک ایسی لائبریری ہے جو جدید ترین Parameter-Efficient Fine-Tuning طریقے فراہم کرتی ہے تاکہ بڑے پری ٹرینڈ ماڈلز کو کم سے کم کمپیوٹیشنل اور اسٹوریج اخراجات کے ساتھ ڈھالا جا سکے۔

LlamaIndex ایک اوپن سورس ڈیٹا فریم ورک ہے جسے نجی ڈیٹا کے ذریعے LLMs کی صلاحیتوں میں اضافہ کر کے ایجنٹک ایپلی کیشنز بنانے کے لیے ڈیزائن کیا گیا ہے۔