Kong Gateway एक क्लाउड-नेटिव, प्लेटफ़ॉर्म-स्वतंत्र API, LLM और MCP गेटवे है जो प्लगइन-आधारित विस्तारशीलता, रूटिंग, लोड बैलेंसिंग, प्रमाणीकरण और AI ट्रैफ़िक सुविधाओं के साथ काम करता है।
ओपन सोर्स। नई संभावनाएँ।
उत्कृष्ट ओपन-सोर्स प्रोजेक्ट खोजें, गुमनाम रूप से प्रोजेक्ट सबमिट करें और अपने प्रोजेक्ट का दावा कर उसे संपादित करें।
जिज्ञासा के साथ ओपन सोर्स खोजें।
THE FIRST COLLECTIONBun रनटाइम से बना एक हल्का OpenAI API relay सेवा जो मॉडल प्रीफिक्स के आधार पर विभिन्न OpenAI-संगत बैकएंड में अनुरोध रूट करती है।
llm-apipool 40+ मुफ्त LLM APIs को एक OpenAI-संगत एंडपॉइंट में एकत्रित करता है। कुंजी स्वचालित रूप से रोटेट करता है, रेट लिमिट हैंडल करता है, उपयोग ट्रैक करता है, और CLI, TUI, प्रॉक्सी व LangChain इंटीग्रेशन सपोर्ट करता है।
एक हल्का OpenAI API रिवर्स प्रॉक्सी जिसमें प्रति-की टोकन बजट, रेट लिमिटिंग, लागत डैशबोर्ड और ऑटोमैटिक मॉडल डाउनग्रेडिंग की सुविधा है।
OpenAI के Chat Completions और Embeddings APIs के लिए न्यूनतम FastAPI प्रॉक्सी। बहु-टेनेंट कुंजी मैपिंग, स्ट्रीमिंग, और आधिकारिक SDK संगतता को बिना डेटाबेस के समर्थन करता है।
Gemini Web2API एक ओपन-एआई संगत प्रॉक्सी सर्वर है जो कोकी-आधारित प्रमाणीकरण का उपयोग करके Google के आंतरिक Gemini Web API के लिए अनुरोधों को अनुवादित करता है। इसमें स्ट्रीमिंग, टूल कॉलिंग और एपीआई कुंजी के बिना कई मॉडल सपोर्ट हैं।
OmniRoute एक ओपन-सोर्स MIT-लाइसेंसित AI गेटवे है जो 352+ AI प्रदाताओं और 1200+ मॉडल तक पहुँच के लिए एक एकीकृत एंडपॉइंट प्रदान करता है (150+ मुफ्त श्रेणियाँ)। इसमें क्वोटा-सक्षम ऑटो-फॉलबैक, टोकन कंप्रेशन जिससे 15–95% तक बचत होती है, और Claude Code, Cursor, Cline सहित अन्य कोडिंग एजेंट्स के साथ एकीकरण शामिल है।
एक प्रोडक्शन-ग्रेड, OpenAI-संगत स्मार्ट LLM राउटर और फॉलबैक प्रॉक्सी जो सरल प्रश्नों को Small Language Models (SLMs) और जटिल प्रश्नों को फ्रंटियर मॉडल्स पर रूट करके लागत को अनुकूलित करता है।
LiteLLM एक ओपन-सोर्स AI Gateway और Python SDK है जो 100 से अधिक विभिन्न LLM प्रदाताओं को कॉल करने के लिए एक एकीकृत OpenAI-संगत इंटरफ़ेस प्रदान करता है।
स्थानीय OpenAI-संगत API गेटवे, जो बहु-आपूर्तिकर्ता राउटिंग, ब्रेकअवर सुरक्षा, चीनी त्रुटि संदेश, दृश्य प्रबंधन पैनल और नेटिव डेस्कटॉप ऐप का समर्थन करता है।
LLM Context Squeezer एक स्थानीय API प्रॉक्सी है जो FastAPI से बनाया गया है, जो ऐप्स और OpenAI-कम्पैटिबल LLM प्रोवाइडर्स के बीच मध्यस्थ का काम करता है। यह डायनेमिक कॉन्टेक्स्ट कंप्रेशन, रिडंडेंसी स्ट्रिपिंग, सेमान्टिक कैशिंग और Drop-in इंटीग्रेशन की सुविधाओं के माध्यम से टोकन खपत और API लागत को कम करने का लक्ष्य रखता है।