ओपन सोर्स। नई संभावनाएँ।

CogniGate एक सेल्फ-होस्टेड, मल्टी-टेनेंट LLM गेटवे है जो क्रेडेंशियल्स को सुरक्षित रखते हुए कई मॉडल प्रदाताओं को प्रबंधित करने के लिए एक सिंगल OpenAI-संगत एंडपॉइंट प्रदान करता है।

एक सेल्फ-होस्टेड AI API गेटवे जो विभिन्न LLM प्रदाताओं की कुंजियों को चैनलों के रूप में एकत्रित करता है, एकीकृत OpenAI और Anthropic एंडपॉइंट्स प्रदान करता है, और वास्तविक समय में टोकन उपयोग और सांख्यिकी को ट्रैक करता है।

SafeLine एक स्व-होस्टेड वेब एप्लिकेशन फायरवॉल और रिवर्स प्रॉक्सी है जो वेब ऐप्स के सामने बैठता है, ताकि दुर्भावनापूर्ण HTTP/S ट्रैफ़िक को फ़िल्टर और ब्लॉक किया जा सके। यह रेट लिमिंग, बॉट और ऑथेंटिकेशन चैलेंज, डायनमिक HTML/JS एन्क्रिप्शन, और एक्सेस कंट्रोल लिस्ट प्रदान करता है।

LLM राउटिंग, रिट्राइज़, फॉलबैक, स्ट्रक्चर्ड आउटपुट और उपयोग/लागत लेखांकन के लिए प्रदाता-तटस्थ FastAPI गेटवे। यह मॉडल एलियास, रिट्राय नीतियों और निरंतर उपयोग ट्रैकिंग के साथ Gemini और OpenAI का समर्थन करता है।

Token Station एक स्थानीय रूटिंग गेटवे है जो AI एजेंट्स और LLM प्रोवाइडर्स के लिए काम करता है। यह Claude Code, Cursor, Codex, Gemini CLI और अन्य को लूपबैक-मात्र गेटवे से गुजारता है, स्मार्ट टियर चयन, क्वाटा-सजग रूटिंग और उपयोग ट्रैकिंग प्रदान करता है।

Inja LLM Gateway एक हल्का, डेटाबेस-रहित API गेटवे है जो OpenAI, Anthropic और Gemini अनुरोधों को कई प्रदाताओं तक रूट करता है, क्रॉस-डायलेक्ट अनुवाद, उपयोग मीटरिंग और एकल-बाइनरी डिप्लॉयमेंट के साथ।

एक डिपेंडेंसी-मुक्त पायथन लाइब्रेरी जो विभिन्न LLM API को OpenAI-अनुकूलित प्रारूप में अनुवादित करती है और प्रदाताओं के बीच स्वचालित फेलओवर सक्षम करती है।

Higress एक क्लाउड-नेटिव AI-नेटिव API गेटवे है जो Istio और Envoy पर आधारित है, जिसमें Wasm प्लगइन एक्सटेंसिबिलिटी, एकीकृत LLM प्रदाता पहुंच, MCP सर्वर होस्टिंग और Kubernetes इनग्रेस समर्थन शामिल है।

One API एक एकल LLM API प्रबंधन वितरण सिस्टम है जो OpenAI, Azure, Anthropic Claude, Google Gemini, DeepSeek सहित दर्जनों प्रमुख मॉडलों का समर्थन करता है। यह एकक OpenAI फॉर्मेट इंटरफ़ेस, टोकन प्रबंधन, चैनल लोड संतुलन, उपयोगकर्ता समूह विभाजन और पुनर्वितरण कार्यक्षमता प्रदान करता है।

DeepSeek Router एक प्रोडक्शन-ग्रेड प्रॉक्सी है जो क्लाउड कोड के लिए हाई एवलेबिलिटी प्रदान करता है। यह पाँच चीनी AI प्रदाताओं के बीच रिक्वेस्ट रूट करता है।

Kong Gateway एक क्लाउड-नेटिव, प्लेटफ़ॉर्म-स्वतंत्र API, LLM और MCP गेटवे है जो प्लगइन-आधारित विस्तारशीलता, रूटिंग, लोड बैलेंसिंग, प्रमाणीकरण और AI ट्रैफ़िक सुविधाओं के साथ काम करता है।

AWS पर एक पूर्णतः सर्वरलेस, इवेंट-ड्राइव्न क्लिकस्ट्रीम डेटा पाइपलाइन जो API Gateway, Kinesis, Firehose, Lambda और Athena का उपयोग करके क्लिकस्ट्रीम इवेंट्स को इनगेस्ट, ट्रान्सफॉर्म और Parquet फ़ॉर्मेट में S3 में स्टोर करती है। AWS SAM के साथ प्रोडक्शन-रेडी Infrastructure as Code प्रदान करती है।

Apache APISIX NGINX और etcd पर निर्मित एक डायनामिक, रियल-टाइम, उच्च-प्रदर्शन क्लाउड-नेटिव API और AI गेटवे है, जो डायनामिक रूटिंग, प्लगइन हॉट-लोडिंग, मल्टी-प्रोटोकॉल समर्थन और LLM कार्यभार के लिए AI प्रॉक्सीिंग प्रदान करता है।

स्थानीय और दूरस्थ LLMs के लिए एकीकृत API गेटवे, OpenAI-अनुकूलित एंडपॉइंट के माध्यम से OpenAI, Anthropic, Gemini और Ollama जैसे प्रदाताओं के बीच अनुरोध मार्ग।

केवल SQLite का उपयोग करके क्रेडेंशियल पूलिंग, फेलओवर और स्वचालित New API चैनल सिंक्रनाइज़ेशन वाला हल्का OpenAI/Anthropic रिले गेटवे।

llm-apipool 40+ मुफ्त LLM APIs को एक OpenAI-संगत एंडपॉइंट में एकत्रित करता है। कुंजी स्वचालित रूप से रोटेट करता है, रेट लिमिट हैंडल करता है, उपयोग ट्रैक करता है, और CLI, TUI, प्रॉक्सी व LangChain इंटीग्रेशन सपोर्ट करता है।

एक हल्का OpenAI API रिवर्स प्रॉक्सी जिसमें प्रति-की टोकन बजट, रेट लिमिटिंग, लागत डैशबोर्ड और ऑटोमैटिक मॉडल डाउनग्रेडिंग की सुविधा है।