इस प्रोजेक्ट के बारे में

Haystack एक मॉड्यूलर AI ऑर्केस्ट्रेशन फ्रेमवर्क है जिसे स्केलेबल LLM एप्लिकेशन बनाने के लिए डिज़ाइन किया गया है। यह डेवलपर्स को रिट्रीवल, रूटिंग, मेमोरी और जनरेशन पर स्पष्ट नियंत्रण के साथ पाइपलाइन और एजेंट वर्कफ़्लो डिज़ाइन करने की अनुमति देता है। यह फ्रेमवर्क मॉडल- और वेंडर-अग्नोस्टिक है, जो OpenAI, Mistral, Anthropic, Cohere, Hugging Face, Google, Azure OpenAI, AWS Bedrock और लोकल मॉडल्स के साथ इंटीग्रेशन का समर्थन करता है। मुख्य क्षमताओं में शामिल हैं: - प्रोडक्शन-रेडी एजेंट: इसमें गार्डरेल्स के लिए लाइफसाइकिल हुक्स, टोकन उपयोग और टूल कॉल्स के लिए मॉनिटरिंग, और SkillToolset के माध्यम से स्किल डिस्कवरी की सुविधा है। - कॉन्टेक्स्ट इंजीनियरिंग: मॉडल तक पहुँचने से पहले जानकारी को रिट्रीव, रैंक, फ़िल्टर और रूट करने के लिए टूल्स। - नेटिव Async सपोर्ट: पाइपलाइन सिंक्रोनस या एसिंक्रोनस रूप से टोकन-बाय-टोकन स्ट्रीमिंग के साथ चल सकती हैं, और एजेंट कॉनकरेंट टूल कॉल्स का समर्थन करते हैं। - मॉड्यूलर आर्किटेक्चर: इसमें इंडेक्सिंग, रिट्रीवल और इवैल्यूएशन के लिए बिल्ट-इन कंपोनेंट्स शामिल हैं, साथ ही कस्टम कंपोनेंट्स बनाने की क्षमता भी है। - बहुमुखी उपयोग के मामले: यह Retrieval-Augmented Generation (RAG) सिस्टम, मल्टीमोडल एप्लिकेशन, सिमेंटिक सर्च और क्वेश्चन-आंसरिंग सिस्टम के विकास का समर्थन करता है।