इस प्रोजेक्ट के बारे में

OmniRoute एक स्वयं-होस्ट किए जाने वाला AI गेटवे है जो सैकड़ों AI प्रदाताओं और मॉडल तक पहुँच को एक ही स्थानीय एंडपॉइंट के पीछे संकलित करता है। MIT लाइसेंस के तहत अनुमोदित, इसे इंस्टॉल के बाद तुरंत काम करना शुरू कर देता है — किसी API कुंजी या साइनअप की आवश्यकता नहीं। ## यह क्या करता है OmniRoute 352+ AI प्रदाताओं का संक्षेपण करता है जो 1,200+ मॉडल प्रदान करते हैं, जिनमें Claude, GPT, Gemini, GLM, DeepSeek, Kimi और MiniMax शामिल हैं। इनमें से 150 से अधिक प्रदाता स्तर मुफ्त हैं, और अनुमानित कैटलॉग्ड पूल मासिक लगभग 1.47 अरब मुफ्त टोकन है। गेटवे सभी प्रदाताओं को एक OpenAI-अनुकूल `/v1` एंडपॉइंट के पीछे نرمलाइज़ करता है, ताकि कोई भी संगत टूल बिना विक्रेता-विशिष्ट SDK के जुड़ सके। ## मुख्य विशेषताएँ - **ऑटो-फॉलबैक राउटिंग**: एक क्वोटा-सचेत राउटर ऑटोमैटिक रूप से चार प्रदाता स्तरों (सब्सक्रिप्शन → API कुंजी → सस्ता → मुफ्त) के बीच फॉलबैक करता है जब रेट लिमिट या विफलता आती है, जिससे आपका वर्कफ़्लो निरंतर बना रहता है। - **टोकन कंप्रेशन**: RTK और Caveman स्टैकिंग कंप्रेशन योग्य वर्कलोड पर टोकन उपयोग को 15–95% (औसतन ~89%) तक कम करता है, जिससे मुफ्त क्वोट्स को और आगे बढ़ाया जा सकता है। - **19 राउटिंग रणनीतियाँ**: सर्किट ब्रेकर, कुंजी कोल्डाउन और मॉडल लकआउट सुरक्षा के साथ लचीली रिक्वेस्ट राउटिंग। - **MCP और A2A सपोर्ट**: नेटिव मॉडल कॉन्टेक्स्ट प्रोटोकॉल और एजेंट-टू-एजेंट प्रोटोकॉल इंटीग्रेशन। - **लोकेल-फर्स्ट**: सभी रिक्वेस्ट `localhost:20128` के माध्यम से राउट होती हैं। एन्क्रिप्शन कुंजियाँ AES-256-GCM का उपयोग करती हैं; किसी भी प्रदाता ट्रैफ़िक को थर्ड-पार्टी क्लाउड के माध्यम से टनेल नहीं किया जाता। - **TLS स्टील्थ**: वैकल्पिक प्रॉक्सी-स्तर TLS मस्कर्स। - **लाइव टेलीमेट्री**: रियल-टाइम डैशबोर्ड सभी जुड़े प्रदाताओं पर उपयोग, क्वोट्स, बचत और p95 लेटेंसी की निगरानी करते हैं। - **गार्डरेल्स और एवल्यूएशन**: प्रोडक्शन-ग्रेड गार्डरेल्स, एवल्यूएशन, और हज़ारों स्टाटिक टेस्ट घोषणाएँ। ## संगत टूल्स OmniRoute डेवलपर और कोडिंग टूल्स के लिए ड्रॉप-इन बैकएंड के रूप में डिज़ाइन किया गया है, जिसमें Claude Code, Codex, Cursor, OpenCode, Cline, GitHub Copilot और अन्य शामिल हैं। एक प्री-वायर किए गए कीलेस प्रदाता (OpenCode Free) `auto` मॉडल आइडेंटिफ़ायर का उपयोग करते हुए ताज़ा इंस्टॉल पर तुरंत प्रतिक्रिया देता है। ## डिप्लॉयमेंट विकल्प गेटवे npm (`npm i -g omniroute`), Docker Hub, Electron डेस्कटॉप ऐप और PWA के माध्यम से उपलब्ध है, जिससे उपयोगकर्ताओं को इसे चलाने में लचीलापन मिलता है। Python, Node.js, PHP और cURL के लिए क्विक-स्टार्ट स्क्रिप्ट प्रदान की गई हैं। ## आर्किटेक्चर स्मार्ट राउटर कॉलर और प्रदाता परत के बीच बैठता है, क्वोटा उपलब्धता, लागत स्तर और राउटिंग रणनीति के आधार पर कंप्रेशन लागू करता है और प्रदाताओं का चयन करता है। प्रदाता कुंजियाँ टीमों के बीच न्यायसंगत-शेयर वितरण के लिए पूल की जाती हैं जो एक ही सब्सक्रिप्शन साझा करते हैं। एक शर्त-जोखिम कैटलॉग उन 13 प्रदाताओं को फ़्लैग करता है जहाँ उपयोग से पहले शर्तों की समीक्षा करने की सलाह दी जाती है। ## समुदाय और योगदानकर्ता 550+ योगदानकर्ताओं द्वारा निर्मित, OmniRoute की 51 भाषाओं में अनुवाद हैं। सहायता चैनल में Discord, Telegram, WhatsApp ग्रुप्स और v3.9.0 LTS लक्षित एक सार्वजनिक रोडमैप शामिल है।