इस प्रोजेक्ट के बारे में

DeepSeek Router एक प्रोडक्शन-ग्रेड प्रॉक्सी है जो क्लाउड कोड के लिए हाई एवलेबिलिटी प्रदान करने के लिए डिज़ाइन किया गया है और रिक्वेस्ट को कई AI प्रदाताओं से रूट करता है। यह Anthropic Messages API के लिए एक ड्रॉप-इन रिप्लेसमेंट के रूप में कार्य करता है और पाँच प्रमुख चीनी प्रदाताओं का समर्थन करता है: DeepSeek, Tencent Hunyuan, Zhipu GLM, Alibaba Bailian, और ByteDance Volcengine। इस रूटर में स्वचालित फेलओवर सब-1ms लैटेंसी के साथ, विफल एंडपॉइंट्स को अलग करने के लिए सर्किट ब्रेकिंग, और शून्य डाउनटाइम कॉन्फ़िगरेशन रीलोड की सुविधाएँ हैं। इसमें स्वास्थ्य मॉनिटरिंग डैशबोर्ड, Prometheus मेट्रिक्स, और दर सीमा निर्धारण एवं रिक्वेस्ट सत्यापन जैसे सुरक्षा विशेषताएँ शामिल हैं। कई प्रदाताओं को जोड़कर, यह आधिकारिक API की तुलना में 7-34 गुना कम खर्चीला विकल्प (~99.99% अपटाइम के साथ) प्रदान करता है। सिस्टम Anthropic फ़ॉर्मेट को विभिन्न प्रदाता-विशिष्ट OpenAI संगत फ़ॉर्मेट में अनुवादित करता है, जिससे मौजूदा टूल्स के साथ निर्बाध एकीकरण सुनिश्चित होता है।