اوپن سورس۔ نئے امکانات۔

vtmate ایک ٹرمینل پر مبنی وائس اے آئی ٹول کٹ ہے جس میں انتہائی کم لیٹنسی، 41 زبانوں کی حمایت، اور مربوط TTS/STT شامل ہے۔ یہ لائیو وائس گفتگو، مباحثے، وائس کلوننگ، سیشن ایکسپورٹ، اور بیک گراؤنڈ ڈیمن موڈ کے ساتھ گلوبل شارٹ کٹس فراہم کرتا ہے۔

MoziAI-35B ایک مقامی طور پر تعینات کیے جانے والا اوپن سورس ملٹی موڈل لینگویج ماڈل ہے جس میں 35B MoE فن تعمیر ہے اور MoziSmartBit کوانٹائزیشن کے ذریعے تقریباً 15.9 GB تک کمپریس کیا گیا ہے، جو 256K سیاق و سباق، ویژن، ٹول کالنگ، اور مالیاتی مرکوز استدلال کا فریم ورک فراہم کرتا ہے۔

Mimora is a free, fully local pronunciation trainer for English and Spanish. It uses on-device TTS, speech recognition, and a local LLM to generate phrases and score user attempts with word-level feedback, requiring no cloud or API keys.

Xinference ایک متحد inference لائبریری ہے جو زبان، تقریر، اور ملٹی موڈل ماڈلز کی خدمت کرتی ہے۔ یہ OpenAI-مطابق RESTful API، متفاوت GPU/CPU استعمال، تقسیم شدہ تعیناتی فراہم کرتی ہے، اور LangChain، LlamaIndex، Dify، اور Chatbox کے ساتھ مربوط ہے۔

SenseVoiceSmall ایک اوپن سورس اسپیچ فاؤنڈیشن ماڈل ہے جو ASR، زبان کی شناخت، جذبات کی شناخت اور آڈیو ایونٹ کا پتہ لگانے کے لیے ہے، جس میں مینڈارن، کینٹونیز، انگریزی، جاپانی اور کورین شامل ہیں اور تیز غیر خود رجعت انفرنس فراہم کرتا ہے۔

Unreal Engine 5 کے لیے ایک مقامی multimodal LLM پلگ ان جو ٹیکسٹ، سپیچ ٹو ٹیکسٹ، اور ٹیکسٹ ٹو سپیچ کے لیے آف لائن انفرنس فراہم کرتا ہے۔

جانو ایک ہلکا پھلکا OpenAI-compatible راؤٹر ہے جو ایک GPU پر متعدد مقامی LLMs کو مشترکہ استعمال کرنے میں مدد دیتا ہے۔ یہ مطالبات کو بچھانے اور ماڈل سوئپس کو کم کرکے وقت بچاتا ہے۔

Lexos ایک ایونٹ سے چلنے والا AI دستاویز پروسیسنگ انجن ہے جو Go گیٹ وے، Python ورکرز، Redis قطاروں اور خود میزبان ماڈلز کو آف لائن RAG، خلاصہ اور تقریر کی نقل کے لیے جوڑتا ہے۔

ELI ایک نجی، مقامی AI معاون ہے جو مکمل طور پر آپ کے اپنے ہارڈویئر پر چلتا ہے۔ یہ آواز، بصارت، یادداشت اور 17 شعبوں میں 227 صلاحیتیں پیش کرتا ہے، بشمول کمپیوٹر کنٹرول، میڈیا پلے بیک، دستاویز ہینڈلنگ، کوڈنگ اور ٹاسک آٹومیشن۔ یہ بطور ڈیفالٹ آف لائن ہے، کسی بھی مقامی GGUF ماڈل کو استعمال کرتا ہے اور ماڈل-ایگناسٹک ہے، اختیاری GPU ایکسلریشن اور LAN ریموٹ رسائی کے لیے ویب ڈیش بورڈ کے ساتھ۔