প্রকল্প সম্পর্কে

CoAI (পূর্বে Chat Nio) একটি ওপেন-সোর্স, সেলফ-হোস্টেড প্ল্যাটফর্ম যা ভোক্তা-মুখী AI চ্যাট অ্যাপ্লিকেশন এবং OpenAI-সামঞ্জস্যপূর্ণ API গেটওয়ে ও ডিস্ট্রিবিউশন সিস্টেম একত্রিত করে। এটি অপারেটরদের জন্য তৈরি যারা একটি একক ডিপ্লয়মেন্ট থেকে শেষ-ব্যবহারকারী এবং ডেভেলপার উভয়কেই সেবা দিতে চান। মডেল এবং প্রোভাইডার সমর্থন: গেটওয়েটি বিভিন্ন প্রোভাইডার এবং ফরম্যাট একীভূত করে, যার মধ্যে রয়েছে OpenAI এবং Azure OpenAI, Anthropic Claude, Google Gemini এবং PaLM2, Midjourney (U/V/R অ্যাকশন সহ), iFlytek SparkDesk, Zhipu ChatGLM, Alibaba Tongyi Qianwen, Tencent Hunyuan, Baichuan, Moonshot, DeepSeek, ByteDance Skylark, Groq, OpenRouter, 360 GPT, এবং LocalAI ও Ollama-এর মতো লোকাল রানটাইম। টেক্সট-টু-ইমেজ সমর্থন DALL-E, Midjourney এবং Stable Diffusion-কে কভার করে। রিপোজিটরি বিবরণে ৩৫+ প্রোভাইডারে ২০০+ মডেলের সমর্থন উল্লেখ করা হয়েছে। গেটওয়ে এবং চ্যানেল ব্যবস্থাপনা: চ্যানেলগুলি প্রায়োরিটি অর্ডার, একই প্রায়োরিটির মধ্যে ওজন-ভিত্তিক লোড ব্যালেন্সিং, ব্যবহারকারী গ্রুপিং, ব্যর্থতায় স্বয়ংক্রিয় পুনরায় চেষ্টা, মডেল রিডাইরেকশন, আপস্ট্রিম লুকানো এবং চ্যানেল স্ট্যাটাস ব্যবস্থাপনার সাথে কনফিগার করা যায়। উন্মুক্ত OpenAI-সামঞ্জস্যপূর্ণ এন্ডপয়েন্টগুলির মধ্যে রয়েছে /v1/chat/completions, /v1/images, /v1/models এবং /v1/billing। চ্যাট এবং শেষ-ব্যবহারকারী বৈশিষ্ট্য: ওয়েব UI (React, Redux, Radix UI, Tailwind CSS) PC, ট্যাবলেট এবং মোবাইলে প্রতিক্রিয়াশীল, হালকা ও গাঢ় থিম এবং বহু-ভাষা আন্তর্জাতিকীকরণ সহ। মার্কডাউন রেন্ডারিং LaTeX সূত্র, Mermaid ডায়াগ্রাম, টেবিল, কোড হাইলাইটিং এবং চার্ট কভার করে। কথোপকথন WebDAV বা WebRTC নির্ভরতা ছাড়াই ডিভাইস জুড়ে সিঙ্ক হয় এবং লিংক বা ছবি হিসাবে শেয়ার করা যায়। একটি কাস্টমাইজযোগ্য মডেল মার্কেটপ্লেস এবং প্রিসেট সিস্টেম (ক্লাউড সিঙ্ক সহ) ব্যাকএন্ড থেকে পরিচালিত হয়। একটি PWA বিল্ড এবং Tauri-ভিত্তিক ডেস্কটপ অ্যাপ উপলব্ধ। ফাইল এবং সার্চ: ফাইল পার্সিং PDF, DOCX, PPTX, Excel এবং ইমেজ ফরম্যাটের জন্য সব মডেলে আউট-অফ-দ্য-বক্স কাজ করে, OCR এবং ক্লাউড অবজেক্ট স্টোরেজ (S3, R2, MinIO) একটি সহযোগী ব্লব সার্ভিসের মাধ্যমে পরিচালিত হয়। ওয়েব সার্চ SearXNG ইঞ্জিনের উপর নির্মিত, যা Google, Bing, DuckDuckGo, Yahoo, Wikipedia, Arxiv এবং Qwant-এর মতো উৎস সমর্থন করে, নিরাপদ-সার্চ মোড, কনটেন্ট ট্রাঙ্কেশন এবং ইমেজ প্রক্সি বিকল্প সহ। বিলিং এবং প্রশাসন: দুটি বিলিং মোড দেওয়া হয়: সাবস্ক্রিপশন এবং ইলাস্টিক বিলিং (প্রতি-অনুরোধ, প্রতি-টোকেন, ফ্রি বা বেনামী কল, ন্যূনতম অনুরোধ পয়েন্ট চেক সহ)। গিফট কোড এবং রিডেম্পশন কোড প্রচার বা কার্ড বিক্রির জন্য ব্যাচ জেনারেশন সমর্থন করে। অ্যাডমিন ব্যাকএন্ডে ড্যাশবোর্ড, ঘোষণা ও নোটিফিকেশন ব্যবস্থাপনা, ব্যবহারকারী ও সাবস্ক্রিপশন ব্যবস্থাপনা, মূল্য সেটিংস, কাস্টম সাইট নাম ও লোগো এবং SMTP কনফিগারেশন অন্তর্ভুক্ত। একটি ঐচ্ছিক মডেল ক্যাশে অভিন্ন অনুরোধ প্যারামিটার হ্যাশের জন্য পূর্বে গণনা করা ফলাফল ফেরত দেয়, ক্যাশে হিটে বিলিং ছাড়াই, কনফিগারযোগ্য ক্যাশে সময়কাল এবং ফলাফল সংখ্যা সহ। ডিপ্লয়মেন্ট: Docker এবং Docker Compose প্রস্তাবিত ইনস্টল পথ (MySQL এবং Redis প্রয়োজন), Zeabur, BTPanel এবং Alibaba Cloud ComputeNest-এর জন্য এক-ক্লিক বিকল্প সহ, পাশাপাশি ফ্রন্টএন্ডের জন্য pnpm এবং ব্যাকএন্ডের জন্য Go ব্যবহার করে সোর্স থেকে বিল্ড করা। প্রাথমিক অ্যাডমিন অ্যাকাউন্ট হল root একটি ডিফল্ট পাসওয়ার্ড সহ যা ডিপ্লয়মেন্টের পরে অবিলম্বে পরিবর্তন করা উচিত। প্রকল্পটি Apache-2.0 লাইসেন্সের অধীনে। একটি পৃথক বাণিজ্যিক Pro সংস্করণ TTS/STT, প্লাগইন মার্কেটপ্লেস, RAG নলেজ বেস, অতিরিক্ত পেমেন্ট প্রোভাইডার এবং চ্যানেল স্বাস্থ্য পর্যবেক্ষণের মতো বৈশিষ্ট্য যোগ করে; সেই ক্ষমতাগুলি ওপেন-সোর্স রিপোজিটরির অংশ নয়।