इस प्रोजेक्ट के बारे में

LocalRouter एक सेल्फ-होस्टेड AI API प्रॉक्सी गेटवे है जिसे पूरी तरह से आपकी लोकल मशीन पर चलाने के लिए डिज़ाइन किया गया है। यह डेवलपर्स को OpenAI, Anthropic, Azure, Ollama और अन्य सहित कई AI प्रदाताओं तक पहुंच को एक एकल सुसंगत एंडपॉइंट के पीछे एकीकृत करने की अनुमति देता है। यह प्रदाताओं या मॉडलों को बदलते समय एप्लिकेशन कोड को संशोधित करने की आवश्यकता को समाप्त करता है। मुख्य विशेषताओं में मॉडल एलियासिंग (जैसे, 'gpt-4o' को किसी भी अपस्ट्रीम प्रदाता पर मैप करना), सक्रिय अपस्ट्रीम्स के बीच वन-क्लिक स्विचिंग, पूर्ण अनुरोध/प्रतिक्रिया लॉगिंग (स्ट्रीमिंग SSE सामग्री सहित), कॉन्फ़िगर करने योग्य प्रति-मॉडल मूल्य निर्धारण के आधार पर रियल-टाइम लागत ट्रैकिंग, और टोकन रुझानों और स्रोत, प्रविष्टि या मॉडल द्वारा ब्रेकडाउन के साथ विस्तृत उपयोग विश्लेषण शामिल हैं। यह टूल वैकल्पिक ऑथेंटिकेशन टोकन के माध्यम से एक्सेस कंट्रोल का समर्थन करता है और डेस्कटॉप ऐप्स (macOS, Windows, Linux) और सर्वर मोड दोनों प्रदान करता है। सभी डेटा एक SQLite डेटाबेस में स्थानीय रूप से संग्रहीत किया जाता है, जो गोपनीयता और ऑफलाइन संचालन सुनिश्चित करता है। डेवलपर्स केवल बेस URL बदलकर इसे मौजूदा OpenAI SDKs के साथ सहजता से एकीकृत कर सकते हैं। डैशबोर्ड स्रोतों, प्रविष्टियों, लॉग्स और आंकड़ों का विजुअल प्रबंधन प्रदान करता है, जिससे डीबगिंग और मॉनिटरिंग सरल हो जाती है। लॉग्स को 10,000 प्रविष्टियों तक सीमित किया गया है जिसमें नॉन-स्टार्ड रिकॉर्ड्स की स्वचालित ट्रिमिंग होती है, जबकि स्टार्ड लॉग्स को अनिश्चित काल के लिए सुरक्षित रखा जाता है। पोर्ट और डेटाबेस पाथ के लिए .env फ़ाइल के माध्यम से कॉन्फ़िगरेशन सरल है। MIT लाइसेंस प्राप्त।