প্রকল্প সম্পর্কে

Onyx একটি ওপেন সোর্স এআই প্ল্যাটফর্ম যা এলএলএম-এর জন্য একটি অ্যাপ্লিকেশন লেয়ার হিসেবে কাজ করে এবং একটি ফিচার-সমৃদ্ধ চ্যাট ইন্টারফেস প্রদান করে যা সেলফ-হোস্ট করা যায়। এটি সেলফ-হোস্টেড (Ollama, LiteLLM, vLLM) এবং প্রোপাইটারি সার্ভিস (Anthropic, OpenAI, Gemini) সহ সকল প্রধান এলএলএম প্রোভাইডারকে সমর্থন করে। এর প্রধান সক্ষমতাগুলো হলো: - এজেন্টিক আরএজি (Agentic RAG): তথ্য পুনরুদ্ধারের জন্য এআই এজেন্টের সাথে হাইব্রিড ইনডেক্স। - গভীর গবেষণা (Deep Research): বিস্তারিত রিপোর্ট তৈরির জন্য মাল্টি-স্টেপ রিসার্চ ফ্লো। - কাস্টম এজেন্ট: কাস্টম নির্দেশনা, জ্ঞান এবং অ্যাকশনসহ এজেন্ট তৈরি করা। - ওয়েব সার্চ: Serper, Google PSE, Brave, SearXNG-এর সাথে ইন্টিগ্রেশন, এবং ইন-হাউস ওয়েব ক্রলার ও Firecrawl/Exa সমর্থন। - আর্টিফ্যাক্টস: ডাউনলোডযোগ্য ডকুমেন্ট, গ্রাফিক্স এবং ফাইল তৈরি করা। - অ্যাকশনস ও এমসিপি (MCP): নমনীয় প্রমাণীকরণসহ এজেন্টদের বাহ্যিক অ্যাপ্লিকেশনের সাথে সংযুক্ত করা। - কোড এক্সিকিউশন: ডেটা বিশ্লেষণ এবং ফাইল পরিবর্তনের জন্য স্যান্ডবক্সে কোড চালানো। - ভয়েস মোড: টেক্সট-টু-স্পিচ এবং স্পিচ-টু-টেক্সট ইন্টারঅ্যাকশন। - ইমেজ জেনারেশন: প্রম্পট থেকে ছবি তৈরি করা। ডিপ্লয়মেন্ট অপশনগুলোর মধ্যে রয়েছে Onyx Lite (১ জিবি মেমোরির নিচে একটি হালকা চ্যাট ইউআই) এবং স্ট্যান্ডার্ড Onyx (ভেক্টর/কিওয়ার্ড ইনডেক্সিং, ব্যাকগ্রাউন্ড ওয়ার্কার, মডেল ইনফারেন্স সার্ভার, Redis ক্যাশিং এবং MinIO ব্লব স্টোরেজসহ সম্পূর্ণ ফিচার সেট)। সমর্থিত ডিপ্লয়মেন্ট পদ্ধতির মধ্যে রয়েছে ডকার, কুবারনেটিস, হেলম/টেরাফর্ম এবং প্রধান ক্লাউড প্রোভাইডার। এন্টারপ্রাইজ ফিচারগুলোর মধ্যে রয়েছে এসএসও (Google OAuth, OIDC, SAML), SCIM ইউজার প্রভিশনিং, রোল-ভিত্তিক অ্যাক্সেস কন্ট্রোল, ব্যবহারের বিশ্লেষণ, কোয়েরি হিস্ট্রি অডিটিং, পিআইআই (PII) অপসারণের জন্য কাস্টম কোড এক্সিকিউশন এবং হোয়াইটলেবেলিং। Onyx এমআইটি (MIT) লাইসেন্সের অধীনে একটি কমিউনিটি সংস্করণ এবং বড় প্রতিষ্ঠানের জন্য অতিরিক্ত ফিচারসহ একটি এন্টারপ্রাইজ সংস্করণ অফার করে।