इस प्रोजेक्ट के बारे में

SJMN एक स्व-होस्ट किए गए राउटर है जो LLM API कॉल्स के लिए डिज़ाइन किया गया है ताकि उच्च उपलब्धता सुनिश्चित की जा सके। यह उपयोगकर्ताओं को एकाधिक OpenAI-संगत कनेक्शन (जैसे OpenAI, Azure OpenAI, OpenRouter, Groq, या स्थानीय इंस्टेंस जैसे Ollama और LM Studio) रजिस्टर करने और उन्हें प्राथमिकता क्रम सौंपने की अनुमति देता है। यदि कोई प्राथमिक कनेक्शन टाइमआउट या त्रुटि के कारण विफल हो जाता है, तो राउटर स्वचालित रूप से प्राथमिकता सूची में अगले उपलब्ध कनेक्शन पर फेलओवर कर देता है। मुख्य विशेषताएं: - एडमिन डैशबोर्ड: कनेक्शन प्रबंधित करने, API कुंजी जनरेट करने और अनुरोध/प्रतिक्रिया लॉग का निरीक्षण करने के लिए React-आधारित इंटरफ़ेस। - राउटिंग लॉजिक: प्राथमिकता संख्याओं के आधार पर स्वचालित फेलओवर (कम संख्या पहले परखी जाती है)। - प्लेटफ़ॉर्म: विशिष्ट कनेक्शन या सामान्य फॉलबैक तर्क का परीक्षण करने के लिए एकीकृत चैट इंटरफ़ेस। - स्वास्थ्य मॉनिटरिंग: कनेक्शन को पिंग करने और उन्हें ऑनलाइन या ऑफ़लाइन रूप में चिह्नित करने के लिए उपकरण, जिनमें लाइव ट्रैफ़िक द्वारा ट्रिगर होने वाले स्टेटस अपडेट शामिल हैं। - सुरक्षा: एडमिन पहुंच के लिए JWT-संरक्षित और राउटर एंडपॉइंट के लिए API कुंजी प्रमाणीकरण। यह प्रणाली डेटा सहअस्तित्व के लिए SQLite के साथ Node.js/Express बैकएंड और React/Vite फ्रंटएंड का उपयोग करके बनाई गई है। इसे Docker Compose के माध्यम से तैनात किया जा सकता है या स्थानीय रूप से चलाया जा सकता है।