منصوبے کے بارے میں

سیمینٹک راؤٹر ایک اوپن سورس پائتھون لائبریری ہے جو لارج لینگویج ماڈلز (LLMs) اور AI ایجنٹس کے لیے ایک انتہائی تیز فیصلہ سازی کی پرت فراہم کرنے کے لیے ڈیزائن کی گئی ہے۔ یہ ٹول کے استعمال یا روٹنگ کے فیصلے کرنے کے لیے سست LLM جنریشنز پر انحصار کرنے کے بجائے، معنی کی بنیاد پر صارف کے سوالات کو مناسب روٹس یا ٹولز تک پہنچانے کے لیے سیمینٹک ویکٹر اسپیسز کا استعمال کرتی ہے۔ اہم خصوصیات میں شامل ہیں: - **سیمینٹک روٹنگ**: نمونہ جملوں کے ساتھ روٹس کی تعریف کریں، اور راؤٹر ایمبیڈنگ ماڈلز کا استعمال کرتے ہوئے آنے والے سوالات کو تیزی سے درست زمرے میں درجہ بند کرتا ہے۔ - **انکوڈر سپورٹ**: Cohere، OpenAI، HuggingFace، اور FastEmbed جیسے مختلف ایمبیڈنگ فراہم کنندگان کے ساتھ انضمام، جو کلاؤڈ اور مکمل طور پر مقامی عمل دونوں کو ممکن بناتا ہے۔ - **ویکٹر ڈیٹا بیس انضمام**: قابل توسیع انڈیکسنگ اور بازیافت کے لیے Pinecone اور Qdrant کے ساتھ ایمبیڈنگز کی مطابقت پذیری کی حمایت کرتا ہے۔ - **ڈائنامک روٹس**: صارف کے سوالات کی بنیاد پر پیرامیٹر جنریشن اور فنکشن کالز کو ممکن بناتا ہے۔ - **ملٹی موڈل روٹنگ**: ملٹی موڈل ڈیٹا (مثلاً تصاویر) کی پروسیسنگ اور روٹنگ کی صلاحیت رکھتا ہے۔ - **تھریشولڈ آپٹیمائزیشن**: درجہ بندی کی کارکردگی کو بہتر بنانے کے لیے روٹ تھریشولڈز کی تربیت اور ایڈجسٹمنٹ کی اجازت دیتا ہے۔ - **انضمامات**: LangChain ایجنٹس اور دیگر LLM فریم ورکس کے ساتھ آسانی سے ضم ہو جاتا ہے۔ یہ لائبریری دو ریلیز لائنوں میں دستیاب ہے: مستحکم 0.x لائن اور 1.x بریکنگ ری رائٹ جو فی الحال مین برانچ پر تیار کی جا رہی ہے۔