ओपन सोर्स। नई संभावनाएँ।

ELI एक निजी, स्थानीय AI सहायक है जो पूरी तरह से आपके हार्डवेयर पर चलता है। यह आवाज़, दृष्टि, स्मृति और 17 क्षेत्रों में 227 क्षमताएँ प्रदान करता है, जिसमें कंप्यूटर नियंत्रण, मीडिया प्लेबैक, दस्तावेज़ प्रबंधन, कोडिंग और कार्य स्वचालन शामिल हैं। यह डिफ़ॉल्ट रूप से ऑफ़लाइन है, किसी भी स्थानीय GGUF मॉडल का उपयोग करता है, और GPU त्वरण तथा LAN पहुँच के लिए वेब डैशबोर्ड के साथ आता है।

vtmate एक टर्मिनल-आधारित वॉइस AI टूलकिट है जिसमें अल्ट्रा-लो लैटेंसी, 41 भाषाओं का समर्थन और एकीकृत TTS/STT शामिल है। यह लाइव वॉइस बातचीत, बहस, वॉइस क्लोनिंग, सत्र निर्यात और वैश्विक शॉर्टकट के साथ बैकग्राउंड डेमन मोड को सक्षम करता है।

MoziAI-35B एक स्थानीय रूप से तैनात करने योग्य ओपन-सोर्स मल्टीमॉडल LLM है, जिसमें 35B MoE आर्किटेक्चर को MoziSmartBit क्वांटाइज़ेशन के माध्यम से ~15.9 GB में संपीड़ित किया गया है, जो 256K संदर्भ, विज़न, टूल कॉलिंग और वित्त-केंद्रित तर्क ढांचा प्रदान करता है।

Mimora है एक मुफ्त, पूरी तरह से स्थानीय उच्चारण ट्रेनर अंग्रेजी और स्पैनिश के लिए। यह डिवाइस पर TTS, भाषण पहचान, और एक स्थानीय LLM का उपयोग करके वाक्यांश बनाता है और शब्द-स्तर की प्रतिक्रिया के साथ उपयोगकर्ता के प्रयासों को स्कोर करता है, जिसके लिए कोई क्लाउड या API कुंजी की आवश्यकता नहीं है।

Xinference एक एकीकृत इन्फरेंस लाइब्रेरी है जो भाषा, वाक् और मल्टीमॉडल मॉडल की सेवा के लिए है। यह OpenAI-संगत RESTful API, विषम GPU/CPU उपयोग, वितरित तैनाती प्रदान करता है और LangChain, LlamaIndex, Dify तथा Chatbox के साथ एकीकृत होता है।

SenseVoiceSmall एक ओपन-सोर्स स्पीच फाउंडेशन मॉडल है जो ASR, भाषा पहचान, भावना पहचान और डियो इवेंट डिटेक्शन के लिए है, जो मंदारिन, कैंटोनीज़, अंग्रेज़ी, जापानी और कोरियाई को कवर करता है और तेज़ नॉन-ऑटोरेग्रेसिव इन्फरेंस प्रदान करता है।

Unreal Engine 5 के लिए एक स्थानीय मल्टीमॉडल LLM प्लगइन जो टेक्स्ट, स्पीच-टू-टेक्स्ट और टेक्स्ट-टू-स्पीच के लिए ऑफलाइन इन्फरेंस प्रदान करता है।

Jano एक हल्का OpenAI-संगत रूटर है जो कई स्थानीय LLMs को एक GPU पर साझा करने की सुविधा देता है, स्मार्ट बैचिंग और न्यूनतम मॉडल स्विप के माध्यम से।

Lexos एक इवेंट-संचालित AI दस्तावेज़ प्रोसेसिंग इंजन है जो Go गेटवे, Python वर्कर्स, Redis क्यू और सेल्फ-होस्टेड मॉडल को जोड़ता है, जो ऑफ़लाइन RAG, सारांश और भाषण प्रतिलेखन के लिए है। यह गोपनीयता-केंद्रित, अतुल्यकालिक प्रसंस्करण और वास्तविक समय स्ट्रीमिंग प्रदान करता है।