इस प्रोजेक्ट के बारे में

Semantic Router एक ओपन-सोर्स Python लाइब्रेरी है जो Large Language Models (LLMs) और AI एजेंटों के लिए एक अत्यंत तेज़ निर्णय-लेयर प्रदान करने के लिए डिज़ाइन की गई है। टूल-उपयोग या रूटिंग निर्णय लेने के लिए धीमी LLM जनरेशन पर निर्भर रहने के बजाय, यह उपयोगकर्ता क्वेरी को अर्थ के आधार पर उपयुक्त रूट या टूल तक पहुंचाने के लिए सिमेंटिक वेक्टर स्पेस का उपयोग करता है। मुख्य विशेषताओं में शामिल हैं: - **सिमेंटिक रूटिंग**: नमूना उच्चारणों के साथ रूट परिभाषित करें, और राउटर एम्बेडिंग मॉडल का उपयोग करके आने वाली क्वेरी को सही श्रेणी में तेज़ी से वर्गीकृत करता है। - **एन्कोडर समर्थन**: Cohere, OpenAI, HuggingFace, और FastEmbed जैसे विभिन्न एम्बेडिंग प्रदाताओं के साथ एकीकृत होता है, जिससे क्लाउड और पूरी तरह से स्थानीय निष्पादन दोनों संभव होते हैं। - **वेक्टर डेटाबेस एकीकरण**: स्केलेबल इंडेक्सिंग और पुनर्प्राप्ति के लिए Pinecone और Qdrant के साथ एम्बेडिंग सिंक करने का समर्थन करता है। - **डायनामिक रूट्स**: उपयोगकर्ता क्वेरी के आधार पर पैरामीटर जनरेशन और फ़ंक्शन कॉल सक्षम करता है। - **मल्टी-मोडल रूटिंग**: मल्टी-मोडल डेटा (जैसे, छवियाँ) को संसाधित और रूट करने में सक्षम। - **थ्रेशोल्ड अनुकूलन**: वर्गीकरण प्रदर्शन को अनुकूलित करने के लिए रूट थ्रेशोल्ड को प्रशिक्षित और ट्यून करने की अनुमति देता है। - **एकीकरण**: LangChain एजेंटों और अन्य LLM फ्रेमवर्क के साथ आसानी से एकीकृत होता है। लाइब्रेरी दो रिलीज़ लाइनों में उपलब्ध है: स्थिर 0.x लाइन और 1.x ब्रेकिंग रीराइट जो वर्तमान में मुख्य शाखा पर विकास में है।