عن المشروع
Haystack هو إطار عمل معياري لتنسيق الذكاء الاصطناعي مصمم لإنشاء تطبيقات LLM قابلة للتوسع. يتيح للمطورين تصميم خطوط أنابيب (pipelines) وسير عمل للعملاء مع تحكم صريح في الاسترجاع والتوجيه والذاكرة والتوليد. يتميز إطار العمل بأنه مستقل عن النماذج والموردين، حيث يدعم التكامل مع OpenAI وMistral وAnthropic وCohere وHugging Face وGoogle وAzure OpenAI وAWS Bedrock والنماذج المحلية.
تشمل القدرات الرئيسية ما يلي:
- عملاء جاهزون للإنتاج: يتميز بخطافات دورة الحياة لضمانات الحماية، ومراقبة استخدام الرموز (tokens) واستدعاءات الأدوات، واكتشاف المهارات عبر SkillToolset.
- هندسة السياق: أدوات لاسترجاع المعلومات وترتيبها وتصفيتها وتوجيهها قبل وصولها إلى النموذج.
- دعم أصلي للعمليات غير المتزامنة (Async): يمكن تشغيل خطوط الأنابيب بشكل متزامن أو غير متزامن مع تدفق الرموز (token-by-token streaming)، ويدعم العملاء استدعاءات الأدوات المتزامنة.
- بنية معيارية: يتضمن مكونات مدمجة للفهرسة والاسترجاع والتقييم، مع القدرة على إنشاء مكونات مخصصة.
- حالات استخدام متعددة: يدعم تطوير أنظمة توليد النصوص المعززة بالاسترجاع (RAG)، والتطبيقات متعددة الوسائط، والبحث الدلالي، وأنظمة الإجابة على الأسئلة.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.