منصوبے کے بارے میں

Haystack ایک ماڈیولر AI orchestration فریم ورک ہے جسے اسکیل ایبل LLM ایپلی کیشنز بنانے کے لیے ڈیزائن کیا گیا ہے۔ یہ ڈویلپرز کو ریٹریول (retrieval)، روٹنگ، میموری، اور جنریشن پر واضح کنٹرول کے ساتھ پائپ لائنز اور ایجنٹ ورک فلو ڈیزائن کرنے کی اجازت دیتا ہے۔ یہ فریم ورک ماڈل اور وینڈر سے آزاد ہے، اور OpenAI، Mistral, Anthropic, Cohere, Hugging Face, Google, Azure OpenAI, AWS Bedrock، اور مقامی ماڈلز کے ساتھ انٹیگریشنز کی حمایت کرتا ہے۔ اہم صلاحیتوں میں شامل ہیں: - پروڈکشن کے لیے تیار ایجنٹس: اس میں گارڈ ریلز کے لیے لائف سائیکل ہکس، ٹوکن کے استعمال اور ٹول کالز کی مانیٹرنگ، اور SkillToolset کے ذریعے اسکل ڈسکوری کی خصوصیات موجود ہیں۔ - Context Engineering: معلومات کو ماڈل تک پہنچنے سے پہلے ریٹریو، رینک، فلٹر اور روٹ کرنے کے لیے ٹولز۔ - Native Async Support: پائپ لائنز سنکرونس یا اسنکرونس طور پر ٹوکن بائی ٹوکن اسٹریمنگ کے ساتھ چل سکتی ہیں، اور ایجنٹس ہم وقت (concurrent) ٹول کالز کی حمایت کرتے ہیں۔ - ماڈیولر آرکیٹیکچر: اس میں انڈیکسنگ، ریٹریول، اور ایویلیویشن کے لیے بلٹ ان اجزاء شامل ہیں، اور کسٹم اجزاء بنانے کی صلاحیت بھی موجود ہے۔ - متنوع استعمال کے کیسز: یہ Retrieval-Augmented Generation (RAG) سسٹمز، ملٹی موڈل ایپلی کیشنز، سیمیٹک سرچ، اور سوال و جواب کے سسٹمز کی ڈویلپمنٹ کی حمایت کرتا ہے۔