ओपन सोर्स। नई संभावनाएँ।

Jano एक हल्का OpenAI-संगत रूटर है जो कई स्थानीय LLMs को एक GPU पर साझा करने की सुविधा देता है, स्मार्ट बैचिंग और न्यूनतम मॉडल स्विप के माध्यम से।

यह परियोजना Clash Premium कर्नेल के लिए नियम-सेट (RULE-SET) उत्पन्न करती है, जिसमें डायरेक्ट, प्रॉक्सी, विज्ञापन ब्लॉकिंग, निजी नेटवर्क, Apple/Google डोमेन, GFWList, IP रेंज आदि शामिल हैं। यह ClashX Pro, Clash for Windows, clash-verge-rev जैसे क्लाइंट्स के साथ संगत है और GitHub Actions से प्रतिदिन स्वतः अपडेट होता है।

LLM राउटिंग, रिट्राइज़, फॉलबैक, स्ट्रक्चर्ड आउटपुट और उपयोग/लागत लेखांकन के लिए प्रदाता-तटस्थ FastAPI गेटवे। यह मॉडल एलियास, रिट्राय नीतियों और निरंतर उपयोग ट्रैकिंग के साथ Gemini और OpenAI का समर्थन करता है।

Trahens विकेंद्रीकृत, पाथ-अवेयर नेटवर्क में गोपनीयता-उन्मुख रेंडेवू रूट डिस्कवरी और कंट्रोल-प्लेन प्रबंधन के लिए एक शोध प्रोटोकॉल है।