ओपन सोर्स। नई संभावनाएँ।

Otaku एक मुफ्त, स्थानीय LLM फ्रंटएंड है जो रोलप्ले के लिए वेब और टर्मिनल इंटरफेस प्रदान करता है। यह स्थानीय और क्लाउड LLM का समर्थन करता है, दृश्य सारांश के माध्यम से लंबे संदर्भ का प्रबंधन करता है, और SillyTavern चैट और कैरेक्टर कार्ड को आयात करने की सुविधा देता है।

Longe एक एकल Rust बाइनरी में एक स्व-सुधार (self-improving) LLM हार्नेस है। यह अपने स्वयं के कौशल और प्रॉम्प्ट को बेहतर बनाने के लिए Lua REPL, तीन-स्तरीय मेमोरी, सैंडबॉक्स्ड एग्जीक्यूशन, बजट प्रवर्तन और रन-बाद रिफ्लेक्शन के साथ पर्सिस्टेंट सेशन चलाता है।

LastChat एक फीचर-riche Android AI असिस्टेंट है जो RikkaHub से फोर्क किया गया है, जो मल्टी-प्रोवाइडर चैट, RAG मेमोरी, मल्टीमोडल इनपुट, बिल्ट-इन Python/JS इंजन और लोकल-फर्स्ट प्राइवेसी प्रदान करता है।

Switchboard एक लोकल-फर्स्ट AI गेटवे है जो 16 अलग-अलग AI प्रोवाइडर्स के बीच रिक्वेस्ट्स को राउट करता है। यह फ्री-टियर प्राथमिकता, स्वचालित फॉलबैक और पूरी निर्णय लॉगिंग के साथ स्थानीय रूप से चलता है, बिना किसी क्लाउड टीलेमेट्री के।

एक OpenAI-संगत फेलओवर प्रॉक्सी जो निरंतर सेवा और कम लेटेंसी सुनिश्चित करने के लिए LLM प्रदाताओं के बीच स्वचालित रूप से स्विच करता है।

free-llm-api-stack एक zero-dependency राउटर है जो कई मुफ्त LLM API स्तरों को एकल, OpenAI-संगत एंडपॉइंट में जोड़ता है जिसमें स्वचालित फेलओवर होता है।