ओपन सोर्स। नई संभावनाएँ।

ओपन-सोर्स डेस्कटॉप AI साथी ऐप जिसमें Live2D/VRM अवतार, वॉयस चैट, स्थानीय LLM समर्थन, टेबलटॉप RPG इंजन और स्वायत्त डेस्कटॉप एजेंट क्षमताएं शामिल हैं। डिफ़ॉल्ट रूप से यह 100% स्थानीय रूप से चलता है।

Otaku एक मुफ्त, स्थानीय LLM फ्रंटएंड है जो रोलप्ले के लिए वेब और टर्मिनल इंटरफेस प्रदान करता है। यह स्थानीय और क्लाउड LLM का समर्थन करता है, दृश्य सारांश के माध्यम से लंबे संदर्भ का प्रबंधन करता है, और SillyTavern चैट और कैरेक्टर कार्ड को आयात करने की सुविधा देता है।

Khoj is an open-source, self-hostable personal AI app that connects to local or online LLMs, answers questions from the web and your documents, and supports custom agents, automations and semantic search across browser, desktop, phone and chat clients.

Xinference एक एकीकृत इन्फरेंस लाइब्रेरी है जो भाषा, वाक् और मल्टीमॉडल मॉडल की सेवा के लिए है। यह OpenAI-संगत RESTful API, विषम GPU/CPU उपयोग, वितरित तैनाती प्रदान करता है और LangChain, LlamaIndex, Dify तथा Chatbox के साथ एकीकृत होता है।

Jan एक ओपन-सोर्स डेस्कटॉप ऐप है जो बड़े भाषा मॉडल को स्थानीय रूप से चलाता है, ऑफ़लाइन और निजी उपयोग के लिए, क्लाउड प्रदाताओं और OpenAI-संगत स्थानीय API से वैकल्पिक कनेक्शन के साथ।

RunAnywhere एक क्रॉस-प्लेटफॉर्म SDK सूट है जो फोन, ब्राउज़र, डेस्कटॉप और सर्वर पर पूरी तरह से ऑन-डिवाइस AI मॉडल चलाने के लिए है। यह LLM, विजन, स्पीच, वॉयस एजेंट, RAG, एम्बेडिंग और इमेज जनरेशन को एक ही सेमैंटिक API के साथ सपोर्ट करता है।

Electron/NodeJS ऐप के रूप में निर्मित ओपन-सोर्स LLM-संचालित रोलप्ले सिमुलेशन इंजन। इसमें स्थायी विश्व स्थिति, गतिशील चरित्र विकास, स्क्रिप्टेड व्यवहार और किसी भी भाषा मॉडल के साथ संगतता शामिल है।