منصوبے کے بارے میں

Langchain-Chatchat (پہلے Langchain-ChatGLM) ایک اوپن سورس، آف لائن تعینات کیے جانے والا RAG (Retrieval-Augmented Generation) اور Agent ایپلیکیشن پروجیکٹ ہے جو Langchain فریم ورک اور ChatGLM، Qwen، Llama جیسے بڑی زبان کے ماڈلز پر مبنی ہے۔ اس کا مقصد چینی منظرناموں اور اوپن سورس ماڈلز کے لیے دوستانہ، مکمل طور پر آف لائن چلنے والا نالج بیس سوال و جواب حل قائم کرنا ہے۔ بنیادی اصولی عمل یہ ہے: فائل لوڈ کرنا، متن پڑھنا، متن کو تقسیم کرنا، متن کو ویکٹرائز کرنا، سوال کو ویکٹرائز کرنا، ویکٹر ڈیٹا بیس میں سب سے زیادہ مماثل top k متون کو ملانا، مماثل متن کو سیاق و سباق کے طور پر سوال کے ساتھ prompt میں شامل کرنا، اور جواب پیدا کرنے کے لیے LLM کو جمع کرانا۔ یہ پروجیکٹ خود فائن ٹیوننگ یا تربیت میں ملوث نہیں ہے، لیکن فائن ٹیوننگ کے ذریعے اثرات کو بہتر بنایا جا سکتا ہے۔ 0.3.x ورژن کی خصوصیات میں شامل ہیں: LLM گفتگو، نالج بیس گفتگو، سرچ انجن گفتگو، فائل گفتگو (یکجا File RAG، BM25+KNN سمیت متعدد تلاش کے طریقوں کی حمایت)، ڈیٹا بیس گفتگو، ملٹی موڈل تصویری گفتگو، ARXIV ادب گفتگو، Wolfram گفتگو، متن سے تصویر تخلیق، مقامی نالج بیس کا انتظام اور WebUI۔ بنیادی افعال Agent کے ذریعے نافذ کیے جاتے ہیں، صارف دستی طور پر بھی ٹول کال کر سکتے ہیں، خودکار ٹول کال، صرف ٹول پیرامیٹرز کی پارسنگ، دستی پیرامیٹر بھرنے جیسے مختلف طریقوں کی حمایت کی جاتی ہے۔ ماڈل انضمام کے حوالے سے، 0.3.x اب براہ راست مقامی راستے سے ماڈل لوڈ نہیں کرتا، بلکہ مرکزی ماڈل انفرنس فریم ورکس کے ذریعے مربوط ہوتا ہے، جن میں Xinference، LocalAI، Ollama، FastChat، اور آن لائن API فریم ورک One API (OpenAI، Azure OpenAI، Anthropic Claude، Zhipu Qingyan، Baichuan وغیرہ کی حمایت) شامل ہیں۔ تمام ماڈل انضمام OpenAI SDK کے مطابق ہیں۔ تعیناتی کے طریقے pip انسٹالیشن (pip install langchain-chatchat -U)، سورس کوڈ انسٹالیشن/ڈیولپمنٹ تعیناتی اور Docker تعیناتی فراہم کرتے ہیں۔ استعمال کا عمل شامل ہے: ماڈل انفرنس فریم ورک شروع کرنا اور ماڈل لوڈ کرنا، chatchat init چلا کر ترتیب اور ڈیٹا ڈائریکٹری کو ابتدائی بنانا، model_settings.yaml جیسی ترتیب فائلوں میں ترمیم کرنا، chatchat kb -r چلا کر نالج بیس کو ابتدائی بنانا، chatchat start -a چلا کر پروجیکٹ شروع کرنا۔ پروجیکٹ Python 3.8-3.11 کی حمایت کرتا ہے، Windows، macOS، Linux پر چل سکتا ہے، ہارڈویئر CPU، GPU، NPU، MPS کی حمایت کرتا ہے۔ پروجیکٹ کوڈ Apache-2.0 پروٹوکول کی پیروی کرتا ہے۔ سنگ میل میں شامل ہیں: اپریل 2023 میں 0.1.0 کا اجراء، اگست 2023 میں نام تبدیل کر کے 0.2.0 کا اجراء، دسمبر 2023 میں 20K سے زیادہ stars حاصل کرنا، جون 2024 میں 0.3.0 نئے فن تعمیر کا اجراء۔