প্রকল্প সম্পর্কে

NeMo Helix হলো NVIDIA-এর একটি ইউনিফাইড প্ল্যাটফর্ম যা NeMo এজেন্ট লাইব্রেরিগুলিকে একটি একক CLI, Python SDK এবং ব্রাউজার-ভিত্তিক UI-এর অধীনে একত্রিত করে। এর উদ্দেশ্য হলো প্রোডাকশন এজেন্টদের দ্রুততর, আরও নির্ভুল এবং নিরাপদ করা। মূল ক্ষমতাগুলির মধ্যে রয়েছে: - নিরাপদ এজেন্ট: কনটেন্ট সেফটি গার্ডরেল, জেলব্রেক ডিটেকশন, PII রিড্যাকশন, প্রশিক্ষণ ডেটার জন্য অ্যানোনিমাইজেশন এবং garak-এর মাধ্যমে স্বয়ংক্রিয় রেড-টিমিং। - এজেন্ট মূল্যায়ন: LLM-আস-জজ স্কোরিং, ডিটারমিনিস্টিক এবং এজেন্টিক বেঞ্চমার্ক, RAG মূল্যায়ন এবং Harbor-সমর্থিত রিগ্রেশন টেস্ট স্যুট। - এজেন্ট টিউনিং: স্কিল অপ্টিমাইজেশন, প্রম্পট এবং হাইপারপ্যারামিটার টিউনিং এবং পারফরম্যান্স উন্নতির জন্য Switchyard মডেল রাউটিং। - এজেন্ট নির্মাণ: LangGraph-ভিত্তিক এজেন্টদের জন্য NVIDIA NeMo Agent Toolkit (NAT)-এর উপর ভিত্তি করে, যার মধ্যে রয়েছে Inference Gateway, Secrets ম্যানেজমেন্ট, File Store, Entity Store এবং Jobs সার্ভিস সহ শেয়ার্ড ইনফ্রাস্ট্রাকচার। - সিন্থেটিক ডেটা: প্রশিক্ষণ এবং মূল্যায়ন ডেটা তৈরির জন্য Data Designer। - NeMo Studio: একটি ব্রাউজার UI (বর্তমানে আলফা) চ্যাট, মনিটরিং এবং অপ্টিমাইজেশন পরামর্শ পর্যালোচনার জন্য। CLI-ই প্রাথমিক ইন্টারঅ্যাকশন পৃষ্ঠ হিসেবে রয়ে গেছে। ইনস্টলেশন Python 3.12-3.14 এবং uv ব্যবহার করে করা হয়, যার জন্য একটি সমর্থিত ইনফারেন্স প্রোভাইডার (NVIDIA Build, OpenAI, Anthropic, Google Gemini বা একটি স্থানীয় Ollama ইনস্ট্যান্স) থেকে API কী প্রয়োজন। `nemo setup` কমান্ডটি স্থানীয় সার্ভিস বুটস্ট্র্যাপ করে, আপনার LLM প্রোভাইডার নিবন্ধন করে, মডেল আবিষ্কার করে, এজেন্ট স্কিল ইনস্টল করে এবং একটি নমুনা ক্যালকুলেটর এজেন্ট ডিপ্লয় করতে পারে। Claude Code, Cursor, Codex এবং OpenCode-এর মতো কোডিং এজেন্ট ইনস্টলযোগ্য NeMo স্কিলের মাধ্যমে নেটিভভাবে সমর্থিত। প্ল্যাটফর্ম সার্ভিসগুলি ইনফারেন্স এবং ম্যানেজমেন্ট অপারেশনের জন্য localhost:8080-এ একটি REST API প্রকাশ করে। লাইসেন্স: Apache 2.0।