इस प्रोजेक्ट के बारे में

OpenProxy एक स्व-होस्ड सेवा है जो OpenAI और Anthropic जैसे कई AI प्रदाताओं के लिए API प्रॉक्सी के रूप में कार्य करती है। यह OpenAI के /v1/chat/completions और Anthropic के /v1/messages एंडपॉइंट दोनों के संगत एक एकताबद्ध API इंटरफ़ेस प्रदर्शित करती है। सिस्टम वेटेड लोड बैलेंसिंग और विफलता पर स्वचालित फॉलबैक के साथ मल्टी-प्रदाता फेलओवर का समर्थन करता है। यह हाल ही में उपयोग किए गए की संयोजनों को अप्राथमिकता देकर दर सीमाओं से बचने के लिए प्रति प्रदाता बहु-की रोटेशन सक्षम बनाता है। प्रशासक क्वोटा, समाप्ति और मॉडल एक्सेस नियंत्रण के साथ API कुंजियों का प्रबंधन कर सकते हैं। उपयोग प्रत्येक अनुरोध के अनुसार ट्रैक किया जाता है जिसमें लागत, प्रतिक्रिया समय और प्रदाता एट्रिब्यूशन शामिल है। एक वेब-आधारित एडमिन पैनल मॉडलों, प्रदाताओं, उपयोगकर्ताओं और ऑर्डर के प्रबंधन की अनुमति देता है, जबकि टेंज़ेंट उपयोग चार्ट, शेष राशि और अनुरोध इतिहास दिखाते हुए डैशबोर्ड प्राप्त करते हैं। प्रदाता API कुंजियों को RSA का उपयोग करके एन्क्रिप्ट किए गए रूप में संग्रहीत किया जाता है। प्रमाणीकरण विकल्पों में better-auth के माध्यम से ईमेल/पासवर्ड, फोन OTP, GitHub और Google शामिल हैं। उदाहरण उपयोग में bearer टोकन के साथ प्रॉक्सी एंडपॉइंट पर मानक OpenAI-शैली अनुरोध भेजना शामिल है। MIT लाइसेंस के अधीन।