इस प्रोजेक्ट के बारे में

Langchain-Chatchat (पूर्व नाम Langchain-ChatGLM) एक Langchain फ्रेमवर्क और ChatGLM, Qwen, Llama जैसे बड़े भाषा मॉडलों पर आधारित ओपन-सोर्स, ऑफ़लाइन तैनाती योग्य RAG (रिट्रीवल ऑगमेंटेड जनरेशन) और Agent अनुप्रयोग परियोजना है। इसका लक्ष्य चीनी परिदृश्यों और ओपन-सोर्स मॉडलों के अनुकूल, पूरी तरह से ऑफ़लाइन चलने वाला ज्ञानकोष प्रश्नोत्तर समाधान स्थापित करना है। मुख्य प्रक्रिया: फ़ाइल लोड करना, टेक्स्ट पढ़ना, टेक्स्ट विभाजन, टेक्स्ट वेक्टरीकरण, प्रश्न वेक्टरीकरण, वेक्टर डेटाबेस में सबसे समान top k टेक्स्ट खोजना, मिलान किए गए टेक्स्ट को संदर्भ के रूप में प्रश्न के साथ prompt में जोड़ना, और LLM को उत्तर उत्पन्न करने के लिए भेजना। परियोजना में फ़ाइन-ट्यूनिंग या प्रशिक्षण शामिल नहीं है, लेकिन फ़ाइन-ट्यूनिंग द्वारा प्रभाव को अनुकूलित किया जा सकता है। 0.3.x संस्करण की विशेषताएँ: LLM संवाद, ज्ञानकोष संवाद, खोज इंजन संवाद, फ़ाइल संवाद (File RAG में एकीकृत, BM25+KNN सहित कई खोज विधियाँ), डेटाबेस संवाद, मल्टीमॉडल छवि संवाद, ARXIV साहित्य संवाद, Wolfram संवाद, टेक्स्ट-से-इमेज, स्थानीय ज्ञानकोष प्रबंधन और WebUI। मुख्य कार्य Agent द्वारा कार्यान्वित किए जाते हैं, उपयोगकर्ता मैन्युअल रूप से टूल कॉल कर सकते हैं, स्वचालित टूल कॉल, केवल टूल पैरामीटर पार्सिंग, मैन्युअल पैरामीटर भरने जैसे विभिन्न मोड का समर्थन करते हैं। मॉडल एकीकरण: 0.3.x अब सीधे स्थानीय पथ से मॉडल लोड नहीं करता, बल्कि मुख्यधारा मॉडल इन्फ़रेंस फ्रेमवर्क के माध्यम से एकीकृत करता है, जिनमें Xinference, LocalAI, Ollama, FastChat, और ऑनलाइन API फ्रेमवर्क One API (OpenAI, Azure OpenAI, Anthropic Claude, Zhipu Qingyan, Baichuan आदि का समर्थन) शामिल हैं। सभी मॉडल एकीकरण OpenAI SDK के अनुकूल हैं। तैनाती विधियाँ: pip इंस्टॉलेशन (pip install langchain-chatchat -U), स्रोत कोड इंस्टॉलेशन/डेवलपमेंट तैनाती, और Docker तैनाती। उपयोग प्रक्रिया: मॉडल इन्फ़रेंस फ्रेमवर्क शुरू करें और मॉडल लोड करें, chatchat init निष्पादित करके कॉन्फ़िगरेशन और डेटा निर्देशिका प्रारंभ करें, model_settings.yaml आदि कॉन्फ़िगरेशन फ़ाइलें संशोधित करें, chatchat kb -r निष्पादित करके ज्ञानकोष प्रारंभ करें, chatchat start -a निष्पादित करके परियोजना शुरू करें। परियोजना Python 3.8-3.11 का समर्थन करती है, Windows, macOS, Linux पर चल सकती है, हार्डवेयर CPU, GPU, NPU, MPS का समर्थन करती है। परियोजना कोड Apache-2.0 लाइसेंस का पालन करता है। मील के पत्थर: अप्रैल 2023 में 0.1.0 जारी, अगस्त 2023 में नाम बदलकर 0.2.0 जारी, दिसंबर 2023 में 20K से अधिक stars, जून 2024 में 0.3.0 नई वास्तुकला जारी।