इस प्रोजेक्ट के बारे में

कॉन्टेक्स्ट इंजीनियरिंग एक ओपन-सोर्स शैक्षिक रिपॉजिटरी है जो कॉन्टेक्स्ट इंजीनियरिंग—अनुमान के समय बड़े भाषा मॉडल (LLM) को प्रदान किए गए संपूर्ण सूचना पेलोड को डिज़ाइन, व्यवस्थित और अनुकूलित करने का अनुशासन—को समझने और अभ्यास करने के लिए एक व्यापक हैंडबुक के रूप में कार्य करती है। Andrej Karpathy की परिभाषा और Grant Sanderson (3Blue1Brown) के प्रथम-सिद्धांत दृष्टिकोण से प्रेरित, यह रिपॉजिटरी प्रॉम्प्ट इंजीनियरिंग से आगे बढ़कर एकल प्रॉम्प्ट के आसपास के उदाहरणों, मेमोरी, रिट्रीवल, टूल्स, स्टेट और कंट्रोल फ्लो के व्यापक पारिस्थितिकी तंत्र को संबोधित करती है। रिपॉजिटरी कई निर्देशिकाओं में व्यवस्थित एक प्रगतिशील सीखने का मार्ग है: 1. **00_foundations/** — सिद्धांत और मुख्य अवधारणाएँ जो गणितीय आधार, संदर्भ घटक और प्रसंस्करण मॉडल को कवर करती हैं। यह अनुभाग कॉन्टेक्स्ट इंजीनियरिंग के सैद्धांतिक आधार स्थापित करता है, जिसमें टोकन बजट अनुकूलन, फ्यू-शॉट लर्निंग, मेमोरी सिस्टम, रिट्रीवल ऑग्मेंटेशन, कंट्रोल फ्लो, कॉन्टेक्स्ट प्रूनिंग और मेट्रिक्स मूल्यांकन शामिल हैं। 2. **10_guides_zero_to_hero/** — रननेबल पायथन कोड (Jupyter Notebook शैली) के साथ हैंड्स-ऑन वॉकथ्रू जो न्यूनतम प्रॉम्प्ट से लेकर उन्नत कॉन्टेक्स्ट प्रबंधन प्रणालियों तक की अवधारणाओं को प्रदर्शित करते हैं। 3. **20_templates/** — कॉपी-पेस्ट YAML और कॉन्फ़िगरेशन टेम्पलेट जिन्हें सीधे परियोजनाओं में एकीकृत किया जा सकता है, जिसमें न्यूनतम कॉन्टेक्स्ट कॉन्फ़िगरेशन और संरचित प्रॉम्प्ट टेम्पलेट शामिल हैं। 4. **30_examples/** — वास्तविक दुनिया के परियोजना कार्यान्वयन जो धीरे-धीरे जटिलता में बढ़ते हैं, एक खिलौना चैटबॉट से शुरू होकर कॉन्टेक्स्ट प्रबंधन के साथ मल्टी-एजेंट सिस्टम तक विस्तारित होते हैं। 5. **40_reference/** — उन्नत चिकित्सकों के लिए गहन अध्ययन, मूल्यांकन कुकबुक और संदर्भ सामग्री। 6. **50_contrib/** — सामुदायिक योगदान और विस्तार। रिपॉजिटरी ICML, IBM Zurich, NeurIPS और अन्य स्थानों के हालिया शोध पर आधारित है, जिनमें शामिल हैं: - **MEM1 (Singapore-MIT, जून 2025)**: दर्शाता है कि तर्क-संचालित मेमोरी समेकन अनंत संदर्भ जमा करने के बजाय इंटरैक्शन को कॉम्पैक्ट आंतरिक अवस्थाओं में संपीड़ित करके कुशल लंबी-क्षितिज एजेंटों को कैसे सक्षम बनाता है। - **कॉग्निटिव टूल्स (IBM Zurich, जून 2025)**: दिखाता है कि संरचित प्रॉम्प्ट टेम्पलेट "टूल कॉल" के रूप में GPT-4.1 के AIME2024 पर प्रदर्शन को 26.7% से बढ़ाकर 43.3% कर सकते हैं, जो अतिरिक्त प्रशिक्षण के बिना o1-preview प्रदर्शन के करीब पहुँचता है। - **उभरते प्रतीकात्मक तंत्र (ICML Princeton, जून 2025)**: LLM में अमूर्त तर्क का समर्थन करने वाली तीन-चरणीय वास्तुकला (प्रतीक अमूर्त हेड, प्रतीकात्मक प्रेरण हेड, रिट्रीवल हेड) की पहचान करता है, यह समझाते हुए कि Markdown और JSON जैसे संरचित प्रारूप अधिक पार्स करने योग्य क्यों हैं। - **कॉन्टेक्स्ट इंजीनियरिंग सर्वेक्षण (जुलाई 2025)**: 1,400 से अधिक शोध पत्रों की एक व्यवस्थित समीक्षा जो कॉन्टेक्स्ट इंजीनियरिंग को अनुमान के समय LLM को प्रदान किए गए संपूर्ण सूचना पेलोड के रूप में परिभाषित करती है। रिपॉजिटरी में Claude Code, OpenCode, Amp, Kiro, Codex और Gemini CLI सहित कई AI कोडिंग टूल के लिए एजेंट कमांड के माध्यम से समर्थन भी शामिल है। इसमें जैविक रूपक (परमाणु → अणु → कोशिकाएँ → अंग → तंत्रिका प्रणाली → तंत्रिका और अर्थपूर्ण क्षेत्र सिद्धांत) और चार-स्तरीय महारत ढांचे (बेसिक कॉन्टेक्स्ट इंजीनियरिंग → फील्ड थ्योरी → प्रोटोकॉल सिस्टम → मेटा-रिकर्सन) जैसी अवधारणाओं को चित्रित करने के लिए ASCII आरेख, Mermaid ग्राफ़ और प्रतीकात्मक प्रतिनिधित्व का उपयोग करके विज़ुअलाइज़ेशन शामिल हैं। कवर की गई प्रमुख अवधारणाओं में टोकन बजट अनुकूलन, फ्यू-शॉट लर्निंग, मेमोरी सिस्टम, रिट्रीवल ऑग्मेंटेशन, कंट्रोल फ्लो, कॉन्टेक्स्ट प्रूनिंग, मेट्रिक्स और मूल्यांकन, कॉग्निटिव टूल्स और प्रॉम्प्ट प्रोग्रामिंग, न्यूरल फील्ड थ्योरी, प्रतीकात्मक तंत्र और क्वांटम सेमेन्टिक्स शामिल हैं। रिपॉजिटरी "सब कुछ मापें, निर्दयता से हटाएँ" दर्शन पर जोर देती है जहाँ हर अवधारणा में रननेबल कोड सेल और विज़ुअलाइज़ेशन होता है। परियोजना MIT लाइसेंस के तहत है और सामुदायिक योगदान का स्वागत करती है। यह निर्माणाधीन एक व्यापक पाठ्यक्रम, DeepWiki एकीकरण, DeepGraph विज़ुअलाइज़ेशन और चर्चा के लिए एक Discord समुदाय सहित पूरक संसाधनों से भी जुड़ती है।