इस प्रोजेक्ट के बारे में

Oumi एक Apache-2.0 ओपन-सोर्स प्लेटफ़ॉर्म है जो फाउंडेशन मॉडलों के एंड-टू-एंड जीवनचक्र को कवर करता है: डेटा तैयारी और क्यूरेशन, प्रशिक्षण और फाइन-ट्यूनिंग, मूल्यांकन, और तैनाती। यह एक Python पैकेज (`oumi`) के रूप में वितरित किया जाता है, जिसमें एक कमांड-लाइन इंटरफ़ेस और तैयार YAML रेसिपी का संग्रह शामिल है। README में वर्णित मुख्य क्षमताँ: - लगभग 10M से 405B पैरामीटर तक के मॉडलों का प्रशिक्षण और फाइन-ट्यूनिंग, जिसमें फुल फाइन-ट्यूनिंग, LoRA, QLoRA, SFT, प्रेफरेंस ट्यूनिंग (DPO/KTO), और GRPO रीइन्फोर्समेंट लर्निंग जैसी तकनीकें उपयोग की जाती हैं। हाल के नोट्स में GRPO को टूल उपयोग तक बढ़ाने और टूल्स, एनवायरनमेंट (सिम्युलेटेड, lookup, database) तथा एजेंटिक डेटा संश्लेषण जोड़ने का उल्लेख है। - टेक्स्ट और मल्टीमॉडल (विज़न-लैंग्वेज) मॉडलों के लिए समर्थन, Qwen, DeepSeek R1, Llama, Falcon, Gemma, OLMo, Phi, InternVL और अन्य के लिए उदाहरण रेसिपी के साथ। - LLM-as-a-Judge वर्कफ़्लो का उपयोग करके डेटा संश्लेषण और क्यूरेशन, जिसमें एक judge API और inference, judging तथा डेटा संश्लेषण में आंशिक-विफलता हैंडलिंग शामिल है। - `oumi evaluate` कमांड और मूल्यांकन रेसिपी के माध्यम से मानक बेंचमार्क पर मूल्यांकन। - vLLM और SGLang जैसे इंजनों के साथ inference और तैनाती, साथ ही fireworks.ai और parasail जैसे प्रोवाइडर पर समर्पित inference एंडपॉइंट के लिए `oumi deploy` कमांड। - `oumi launch up` के माध्यम से क्लाउड प्लेटफ़ॉर्म (AWS, Azure, GCP, Lambda) पर रिमोट जॉब लॉन्चिंग, रिसोर्स/क्लाड ओवरराइड के सा। - पन-वेट मॉडलों और कमर्शियल API (OpenAI, Anthropic, Vertex AI, Together, Parasail) दोनों के साथ एकीकरण, जिसमें बैच API समर्थन शामिल है। - रिलीज़ नोट्स में उल्लिखित डिस्ट्रिब्यूटेड ट्रेनिंग समर्थन (FSDP, DeepSpeed, DDP) और मॉडल क्वांटाइज़ेशन (AWQ)। - Claude और Cursor जैसे टूल्स के साथ एकीकरण के लिए एक `oumi-mcp` MCP सर्वर। इंस्टॉलेशन विकल्पों में pip/uv (`oumi`, `oumi[gpu]`), एक Docker इमेज, और एक प्रायोगिक इंस्टॉल स्क्रिप्ट शामिल हैं। सामान्य CLI उपयोग है `oumi train -c <config>`, `oumi evaluate -c <config>`, और `oumi infer -c <config> --interactive`। प्रोजेक्ट बताता है कि यह बीटा में है और इसकी मुख्य सुविधाएँ स्थिर हैं, तथा डॉक्युमेंटेशन, क्विकस्टार्ट गाड, और tours, फाइन-ट्यूनिंग, डिस्टिलेशन, मूल्यांकन, रिमोट ट्रेनिंग तथा judging के लिए नोटबुक (Colab) के लिंक देता है। README ज़ीरो-बॉयलरप्लेट रेसिपी, शोध के लिए पुनरुत्पादकता, व्यापक मॉडल समर्थन, और वेंडर लॉक-इन के बिना पूरी तरह पन-सोर्स, समुदाय-केंद्रित दृष्टिकोण पर ज़ोर देता है।