اوپن سورس۔ نئے امکانات۔

لوکل ڈیپ ریسرچ ایک اوپن سورس، مکمل طور پر لوکل AI ریسرچ اسسٹنٹ ہے جو متعدد LLMs اور 10+ سرچ انجنز کا استعمال کرتے ہوئے گہری ایجنٹک ریسرچ انجام دیتا ہے، جس میں انکرپٹڈ فی-یوزر ڈیٹا بیسز ہیں اور کوئی ٹیلی میٹری نہیں۔

UL-SMF ایک KV کیش کمپریشن فریم ورک ہے جو طویل سیاق و سباق کے Transformer انفرنس کے لیے ہے، جس میں FSQ اور 16D لیٹنٹ میپنگ کے ذریعے 384x تک کمپریشن کا دعویٰ کیا گیا ہے۔ بنیادی کمپریشن منطق ایک ملکیتی بند سورس بائنری پر منحصر ہے۔

Ollama ایک ایسا ٹول ہے جو صارفین کو macOS، Windows اور Linux پر مقامی طور پر اوپن سورس لارج لینگویج ماڈلز چلانے، ان کا انتظام کرنے اور ان کے ساتھ بلڈ کرنے کی اجازت دیتا ہے۔

PocketRisu ایک خود-ہوسٹڈ AI رولپلے چاٹ پلیٹ فارم ہے جو RisuAI سے فورک کی گئی ہے، جس سے آپ apni ذاتی سرور چلا سکتے ہیں جو PC، ٹیبلٹ اور فون پر ویب براؤزر کے ذریعے رسائی حاصل کر سکتے ہیں۔