عن المشروع

Semantic Router هي مكتبة Python مفتوحة المصدر مصممة لتوفير طبقة اتخاذ قرار فائقة السرعة لنماذج اللغة الكبيرة (LLMs) ووكلاء الذكاء الاصطناعي. فبدلاً من الاعتماد على توليدات LLM البطيئة لاتخاذ قرارات استخدام الأدوات أو التوجيه، تستخدم فضاءات المتجهات الدلالية لتوجيه استعلامات المستخدم إلى المسارات أو الأدوات المناسبة بناءً على المعنى. تشمل الميزات الرئيسية: - **التوجيه الدلالي**: حدّد مسارات بعبارات نموذجية، ويصنّف الموجّه الاستعلامات الواردة بسرعة إلى الفئة الصحيحة باستخدام نماذج التضمين. - **دعم المُرمِّزات**: يتكامل مع مزوّدي تضمين متنوعين مثل Cohere وOpenAI وHuggingFace وFastEmbed، مما يتيح التنفيذ السحابي والمحلي بالكامل. - **التكامل مع قواعد بيانات المتجهات**: يدعم مزامنة التضمينات مع Pinecone وQdrant للفهرسة والاسترجاع القابل للتوسع. - **المسارات الديناميكية**: يتيح توليد المعاملات واستدعاء الدوال بناءً على استعلامات المستخدم. - **التوجيه متعدد الوسائط**: قادر على معالجة وتوجيه البيانات متعددة الوسائط (مثل الصور). - **تحسين العتبات**: يسمح بتدريب وضبط عتبات المسارات لتحسين أداء التصنيف. - **التكاملات**: يتكامل بسهولة مع وكلاء LangChain وأطر LLM الأخرى. المكتبة متاحة في خطّي إصدار: الخط المستقر 0.x والخط 1.x بإعادة كتابة كاسرة قيد التطوير حالياً على الفرع الرئيسي.