इस प्रोजेक्ट के बारे में

Simple Router एक हल्का, सेल्फ-होस्टेड गेटवे है जिसे Next.js के साथ बनाया गया है, जो उपयोगकर्ताओं को एक एकीकृत OpenAI-संगत API फॉर्मेट के माध्यम से विभिन्न AI प्रोवाइडर्स—जिसमें OpenAI, Gemini, Anthropic, Groq, OpenRouter, Alibaba DashScope, और Ollama या vLLM जैसे लोकल सर्वर शामिल हैं—तक पहुँचने की अनुमति देता है। मुख्य क्षमताओं में शामिल हैं: - एकीकृत API एंडपॉइंट्स: चैट कम्पलीशन्स, रिस्पॉन्स, एम्बेडिंग्स, इमेज जनरेशन और मॉडल लिस्टिंग का समर्थन करता है, जिससे यह मौजूदा OpenAI SDKs के साथ संगत हो जाता है। - उन्नत रूटिंग: फिक्स्ड, रैंडम, राउंड-रॉबिन, वेटेड और प्रायोरिटी फेलओवर जैसी कई रूटिंग रणनीतियों का समर्थन करता है। - वर्चुअल मॉडल्स: API कीज़ वर्चुअल मॉडल्स के रूप में कार्य कर सकती हैं, जिससे प्रशासक विभिन्न प्रोजेक्ट्स के लिए विशिष्ट मॉडल सूचियाँ और रूटिंग रणनीतियाँ निर्धारित कर सकते हैं। - प्रबंधन उपकरण: मेट्रिक्स की निगरानी, प्रोवाइडर्स और कीज़ के प्रबंधन, उपयोग एनालिटिक्स को ट्रैक करने और सर्च करने योग्य लॉग देखने के लिए एक एडमिन डैशबोर्ड शामिल है। - रेट लिमिटिंग और ट्रैकिंग: प्रति-की रेट लिमिट (प्रति मिनट/दिन अनुरोध/टोकन) और टोकन काउंट और लेटेंसी के आधार पर लागत अनुमान प्रदान करता है। - सुरक्षा: सेशन-आधारित लॉगिन, JWT API टोकन, और रेस्ट पर API कीज़ के लिए AES-256-GCM एन्क्रिप्शन की सुविधाएँ प्रदान करता है। - स्ट्रीमिंग सपोर्ट: चैट कम्पलीशन्स के लिए Server-Sent Events (SSE) का समर्थन करता है, जिसमें Anthropic जैसे प्रोवाइडर्स के लिए फॉर्मेट कन्वर्जन शामिल है।