ओपन सोर्स। नई संभावनाएँ।

PowerInfer एक स्थानीय LLM इनफरेंस इंजन है जो एक्टिवेशन लोकालिटी का उपयोग करता है। यह 'हॉट' न्यूरॉन्स को GPU पर और 'कोल्ड' न्यूरॉन्स को CPU पर रखता है, जिससे मेमोरी दबाव कम होता है। यह हाइब्रिड या केवल CPU इनफरेंस, INT4 क्वांटाइजेशन, सर्विंग और बैचिंग का समर्थन करता है।

Chinese-LLaMA-Alpaca एक खुला स्रोत चीनी भाषा मॉडल परियोजना है, जो LLaMA में चीनी शब्दावली जोड़कर द्वितीयक प्रशिक्षण और निर्देश-ट्यूनिंग मॉडल, LoRA वज़न, तथा CPU/GPU स्थानीय परिनियोजन सहायता प्रदान करती है।

टेक्स्ट-आधारित 5e-संगत RPG जिसमें AI डंजियन मास्टर असली डाइस रोल, स्थायी स्टैट्स, स्पेल स्लॉट्स और कॉम्बैट के लिए MCP/SQLite गेम इंजन का उपयोग करता है।

SupaNexus एक ओपन AI गेटवे है जो एकल API के माध्यम से कई LLM प्रदाताओं तक पहुंच को एकीकृत करता है, OpenAI-अनुकूल इंटरफेस और केंद्रीकृत मॉडल प्रबंधन के साथ विकास को सरल बनाता है।

LightRAG, HKUDS द्वारा विकसित एक हल्का ग्राफ-आधारित RAG फ्रेमवर्क है, जो दो-स्तरीय पुनर्प्राप्ति, नॉलेज-ग्राफ इंडेक्सिंग, मल्टीमॉडल पार्सिंग, कई स्टोरेज बैकएंड और WebUI के साथ API सर्वर प्रदान करता है।

GPT Academic (GPT शैक्षणिक अनुकूलन) एक ओपन-सोर्स प्रोजेक्ट है जो GPT/GLM जैसे बड़े भाषा मॉडल्स के लिए व्यावहारिक इंटरैक्टिव इंटरफ़ेस प्रदान करता है, विशेष रूप से लेख पठन, संपादन और लेखन अनुभव को अनुकूलित करता है।

txtai एक ऑल-इन-वन AI फ्रेमवर्क है जो सेमांटिक खोज, LLM ऑर्केस्ट्रेशन और भाषा मॉडल वर्कफ़्लो के लिए बनाया गया है।

यह रिपोजिटरी PyTorch का उपयोग करके LLM को शुरू से प्रशिक्षित करने के लिए एक व्यावहारिक मार्गदर्शिका है, जिसमें डेटा तैयार करना, Transformer बनाना, प्रीट्रेनिंग, और SFT, DPO, PPO, GRPO के साथ पोस्ट-ट्रेनिंग शामिल है।

Haystack Python में प्रोडक्शन-रेडी LLM एप्लिकेशन, RAG सिस्टम और ऑटोनॉमस एजेंट बनाने के लिए एक ओपन-सोर्स AI ऑर्केस्ट्रेशन फ्रेमवर्क है।

LlamaFactory एक Python फ्रेमवर्क है जो 100+ बड़े भाषा और मल्टीमॉडल मॉडलों के कुशल फाइन-ट्यूनिंग के लिए है, जिसमें ज़ीरो-कोड CLI, Gradio Web UI, LoRA/QLoRA और कई ट्रेनिंग एल्गोरिदम शामिल हैं।

Deep Lake एक सर्वरलेस मल्टीमोडल AI डेटाबेस है जो वेक्टर खोज को एम्बेडिंग, चित्र, वीडियो, ऑडियो और दस्तावेज़ों के स्टोरेज के साथ जोड़ता है। यह क्लाउड स्टोरेज से सीधे PyTorch/TensorFlow में डेटा स्ट्रीम करता है, वर्जनिंग का समर्थन करता है, और LangChain, LlamaIndex तथा Weights & Biases के साथ एकीकृत होता है।

LLM पर एक मुफ्त शैक्षिक पाठ्यक्रम जिसमें रोडमैप और Google Colab नोटबुक शामिल हैं। LLM के मूल सिद्धांत, संरचना, प्री-ट्रॉइनिंग, फाइन-ट्यूनिंग, क्वांटिजेशन और LLM-आधारित एप्लिकेशन बनाने को कवर करता है।

Ray एक एकीकृत फ्रेमवर्क है जो AI और Python एप्लिकेशन को एक सिंगल लैपटॉप से लेकर एक डिस्ट्रिब्यूटेड क्लस्टर तक स्केल करने में मदद करता है।

Flowise AI एजेंट बनाने के लिए एक विजुअल टूल है, जो उपयोगकर्ताओं को ग्राफिकल इंटरफेस के माध्यम से एजेंटिक वर्कफ़्लो डिज़ाइन और तैनात करने की अनुमति देता है।

Langflow AI-संचालित एजेंट्स और वर्कफ़्लो बनाने, तैनात करने और ऑर्केस्ट्रेट करने के लिए एक विज़ुअल प्लेटफ़ॉर्म है। इसमें ड्रैग-एंड-ड्रॉप इंटरफ़ेस, इंटरैक्टिव प्लेग्राउंड, मल्टी-एजेंट सपोर्ट, और API या MCP सर्वर के रूप में तैनाती का विकल्प है। सभी प्रमुख LLMs और वेक्टर डेटाबेस का समर्थन करता है।

LangExtract Google द्वारा बनाया गया एक Python लाइब्रेरी है जो LLMs का उपयोग करके अराजक पाठ से संरचित जानकारी निकालता है, प्रत्येक निष्कर्ष को सटीक स्रोत स्थान पर आधारित करता है और इंटरैक्टिव HTML विश्लेषण बनाता है।

DeepTutor HKUDS द्वारा विकसित एक ओपन-सोर्स आजीवन व्यक्तिगत ट्यूशन प्लेटफ़ॉर्म है, जो एजेंटिक चैट, कई RAG इंजनों के साथ ज्ञान आधार, निर्देशित शिक्षण, पुस्तक निर्माण, प्रश्नोत्तरी और बहु-चैनल IM पार्टनर्स को जोड़ता है।

'बिल्ड अ लार्ज लैंग्वेज मॉडल (फ्रॉम स्क्रैच)' के लिए आधिकारिक कोड रिपॉजिटरी: GPT-जैसे मॉडलों का चरण-दर-चरण PyTorch कार्यान्वयन, नोटबुक और अभ्यासों के साथ प्रीट्रेनिंग और फाइनट्यूनिंग को कवर करता है।