প্রকল্প সম্পর্কে

Oumi একটি Apache-2.0 ওপেন-সোর্স প্ল্যাটফর্ম যা ফাউন্ডেশন মডেলের সম্পূর্ণ জীবনচক্র কভার করে: ডেটা প্রস্তুতি ও কিউরেশন, প্রশিক্ষণ ও ফাইন-টিউনিং, মূল্যায়ন, এবং ডিপ্লয়মেন্ট। এটি একটি পাইথন প্যাকেজ (`oumi`) হিসেবে বিতরণ করা হয়, সাথে কমান্ড-লাইন ইন্টারফেস এবং প্রস্তুত-তৈরি YAML রেসিপির সংগ্রহ রয়েছে। README-তে বর্ণিত মূল ক্ষমতাগুলি: - প্রায় 10M থেকে 405B প্যারামিটার পর্যন্ত মডেলের প্রশিক্ষণ ও ফাইন-টিউনিং, যেমন ফুল ফাইন-টিউনিং, LoRA, QLoRA, SFT, প্রেফারেন্স টিউনিং (DPO/KTO), এবং GRPO রিইনফোর্সমেন্ট লার্নিং-এর মতো কৌশল ব্যবহার করে। সাম্প্রতিক নোটে GRPO-কে টুল ব্যবহার এবং টুল, পরিবেশ (সিমুলেটেড, লুকআপ, ডেটাবেস) এবং এজেন্টিক ডেটা সংশ্লেষণে সম্প্রসারণের কথা উল্লেখ করা হয়েছে। - টেক্সট এবং মাল্টিমোডাল (ভিশন-ল্যাঙ্গুয়েজ) মডেলের জন্য সমর্থন, Qwen, DeepSeek R1, Llama, Falcon, Gemma, OLMo, Phi, InternVL এবং অন্যান্যদের জন্য উদাহরণ রেসিপি সহ। - LLM-as-a-Judge ওয়ার্কফ্লো ব্যবহার করে ডেটা সংশ্লেষণ ও কিউরেশন, যার মধ্যে একটি জাজ API এবং ইনফারেন্স, জাজিং এবং ডেটা সংশ্লেষণ জুড়ে আংশিক-ব্যর্থতা হ্যান্ডলিং অন্তর্ভুক্ত। - `oumi evaluate` কমান্ড এবং মূল্যায়ন রেসিপির মাধ্যমে স্ট্যান্ডার্ড বেঞ্চমার্ক জুড়ে মূল্যায়ন। - vLLM এবং SGLang-এর মতো ইঞ্জিনের সাথে ইনফারেন্স ও ডিপ্লয়মেন্ট, সাথে fireworks.ai এবং parasail-এর মতো প্রদানকারীদের উপর ডেডিকেটেড ইনফারেন্স এন্ডপয়েন্টের জন্য `oumi deploy` কমান্ড। - `oumi launch up` এর মাধ্যমে ক্লাউড প্ল্যাটফর্মে (AWS, Azure, GCP, Lambda) রিমোট জব লঞ্চিং, রিসোর্স/ক্লাউড ওভাররাইড সহ। - ওপেন-ওয়েট মডেল এবং বাণিজ্যিক API (OpenAI, Anthropic, Vertex AI, Together, Parasail) উভয়ের সাথে ইন্টিগ্রেশন, ব্যাচ API সমর্থন সহ। - ডিস্ট্রিবিউটেড ট্রেনিং সাপোর্ট (FSDP, DeepSpeed, DDP) এবং মডেল কোয়ান্টাইজেশন (AWQ) রিলিজ নোটে উল্লেখ করা হয়েছে। - Claude এবং Cursor-এর মতো টুলের সাথে ইন্টিগ্রেশনের জন্য একটি `oumi-mcp` MCP সার্ভার। ইনস্টলেশন বিকল্পগুলির মধ্যে pip/uv (`oumi`, `oumi[gpu]`), একটি Docker ইমেজ, এবং একটি পরীক্ষামূলক ইনস্টল স্ক্রিপ্ট অন্তর্ভুক্ত। সাধারণ CLI ব্যবহার হল `oumi train -c <config>`, `oumi evaluate -c <config>`, এবং `oumi infer -c <config> --interactive`। প্রকল্পটি বলে যে এটি বিটা অবস্থায় রয়েছে স্থিতিশীল মূল বৈশিষ্ট্য সহ, এবং ডকুমেন্টেশন, কুইকস্টার্ট গাইড, নোটবুক (Colab) ট্যুর, ফাইন-টিউনিং, ডিস্টিলেশন, মূল্যায়ন, রিমোট ট্রেনিং এবং জাজিং-এর জন্য লিঙ্ক দেয়। README জোর দেয় জিরো-বয়লারপ্লেট রেসিপি, গবেষণার জন্য পুনরুত্পাদনযোগ্যতা, বিস্তৃত মডেল সমর্থন, এবং সম্পূর্ণ ওপেন-সোর্স, কমিউনিটি-ভিত্তিক পদ্ধতি ভেন্ডর লক-ইন ছাড়াই।