इस प्रोजेक्ट के बारे में

ai-router एक स्मार्ट LLM राउटर है जो OpenAI-कम्पैटिबल API प्रदान करता है और रिक्वेस्ट्स को सबसे उपयुक्त उपलब्ध प्रोवाइडर पर राउट करता है। इसमें बिल्ट-इन प्रति-प्रोवाइडर सर्किट ब्रेकिंग, हेल्थ मॉनिटरिंग और लागत ट्रैकिंग शामिल है। राउटर प्राथमिकता, वर्तमान उपलब्धता और मॉडल टैग्स (जैसे चैट, कोड, फास्ट और अन्य) के आधार पर प्रोवाइडर्स का चयन करता है। इसमें चैट कंप्लीशंस, हेल्थ चेक्स, मेट्रिक्स व्यूइंग और सर्किट ब्रेकर प्रबंधन के लिए एंडप्वांट शामिल हैं।