इस प्रोजेक्ट के बारे में

NeMo Platform NVIDIA का एक ओपन-सोर्स प्लेटफ़ॉर्म है जो NeMo लाइब्रेरीज़ को एक ही कमांड-लाइन इंटरफ़ेस, Python SDK और वेब UI में समेकित करता है। यह प्रोडक्शन AI एजेंट शिप करने वाली टीमों को लक्षित करता है, जिसमें उन्हें तेज़, अधिक सटीक और सुरक्षित बनाने पर ध्यान केंद्रित किया गया है। प्लेटफ़ॉर्म कई क्षमता क्षेत्र प्रदान करता है। सुरक्षित एजेंटों के लिए, इसमें कंटेंट सेफ्टी, जेलब्रेक डिटेक्शन और PII रिडैक्शन के लिए गार्डरेल्स शामिल हैं, साथ ही रेड-टीमिंग के लिए एक Auditor और ट्रेनिंग डेटा के लिए एक Anonymizer भी है। मूल्यांकन के लिए, यह LLM-as-judge, डिटर्मिनिस्टिक, एजेंटिक और RAG बेंचमार्क का समर्थन करता है, जिसमें रिग्रेशन टेस्टिंग के लिए Harbor-समर्थित eval सूट शामिल हैं। ट्यूनिंग सुविधाओं में स्किल ऑप्टिमाइज़ेशन, प्रॉम्प्ट और हाइपरपैरामीटर ट्यूनिंग, और Switchyard मॉडल रूटिंग शामिल हैं। एजेंट निर्माण LangGraph-आधारित एजेंटों के लिए NVIDIA NeMo Agent Toolkit का उपयोग करता है, जो Inference Gateway, Secrets, Files, Entity Store और Jobs जैसे साझा इंफ्रास्ट्रक्चर द्वारा समर्थित है। एक Data Designer घटक ट्रेनिंग या मूल्यांकन के लिए सिंथेटिक डेटा उत्पन्न करता है। इंस्टॉलेशन PyPI से uv का उपयोग करके उपलब्ध है, जिसमें एक वैश्विक `nemo` कमांड शामिल है। डेवलपमेंट के लिए सोर्स चेकआउट समर्थित है, जिसमें टूलचेन प्रबंधन के लिए Flox की सिफारिश की जाती है। `nemo setup` कमांड स्थानीय सेवाएँ शुरू करता है, एक LLM प्रदाता पंजीकृत करता है, मॉडल खोजता है, एजेंट स्किल्स इंस्टॉल करता है, और एक नमूना कैलकुलेटर एजेंट तैनात कर सकता है। प्लेटफ़ॉर्म REST API भी प्रदान करता है, जिसमें inference gateway के माध्यम से OpenAI-संगत chat completions एंडपॉइंट शामिल है। NeMo Studio, चैट, मॉनिटरिंग और ऑप्टिमाइज़ेशन सुझावों के लिए एक ब्राउज़र UI, एक अल्फा घटक के रूप में शामिल है। CLI प्राथमिक इंटरफ़ेस बना हुआ है। स्किल्स को Claude Code, Cursor, Codex और OpenCode जैसे कोडिंग एजेंटों में इंस्टॉल किया जा सकता है, जिससे एजेंटों को स्कैफोल्ड करना, मूल्यांकन चलाना, गार्डरेल्स जोड़ना और डिप्लॉयमेंट को ऑप्टिमाइज़ करना जैसे कार्य संभव होते हैं। यह प्रोजेक्ट Apache 2.0 के तहत लाइसेंस प्राप्त है और Python 3.12-3.13 का समर्थन करता है। दस्तावेज़ीकरण में सेटअप, CLI और API संदर्भ, और टेलीमेट्री तथा गोपनीयता नियंत्रण शामिल हैं।