इस प्रोजेक्ट के बारे में

CoAI (पहले Chat Nio) एक open-source, self-hosted platform है, जो एक उपभोक्ता-मुखी AI चैट application को OpenAI-compatible API gateway और distribution system के साथ मिलाता है। इसका उद्देश्य उन operators है, जो एक ही deployment से end users और developers दोनों को सेवित करना चाहते हैं। Model और provider support: Gateway OpenAI और Azure OpenAI, Anthropic Claude, Google Gemini और PaLM2, Midjourney (U/V/R actions के साथ), iFlytek SparkDesk, Zhipu ChatGLM, Alibaba Tongyi Qianwen, Tencent Hunyuan, Baichuan, Moonshot, DeepSeek, ByteDance Skylark, Groq, OpenRouter, 360 GPT और LocalAI तथा Ollama जैसे local runtimes सहित कई providers और formats से जुड़ता है। Text-to-image support में DALL-E, Midjourney और Stable Diffusion शामिल हैं। Repository description के अनुसार इसमें 35+ providers के 200+ models का समर्थन है। Gateway और channel management: Channels में priority ordering, समान priority वाले channels में weight-based load balancing, user grouping, failure पर automatic retry, model redirection, upstream hiding और channel status management की सेटिंग की जा सकती है। Exposed OpenAI-compatible endpoints /v1/chat/completions, /v1/images, /v1/models और /v1/billing हैं। Chat और end-user features: Web UI (React, Redux, Radix UI और Tailwind CSS) PC, tablet और mobile पर responsive है। इसमें light और dark themes तथा multi-language internationalization है। Markdown rendering में LaTeX formulas, Mermaid diagrams, tables, code highlighting और charts शामिल हैं। Conversations WebDAV या WebRTC dependencies के बिना devices के बीच sync होती हैं और links के रूप में share या images के रूप में save की जा सकती हैं। Customizable model marketplace और preset system को backend से manage किया जाता है; presets का cloud sync भी उपलब्ध है। PWA build और Tauri-based desktop app उपलब्ध हैं। Files और search: PDF, DOCX, PPTX, Excel और image formats का file parsing सभी models के साथ out of the box काम करता है। OCR और cloud object storage (S3, R2, MinIO) के लिए companion blob service का उपयोग किया जाता है। Web search SearXNG engine पर आधारित है और Google, Bing, DuckDuckGo, Yahoo, Wikipedia, Arxiv और Qwant जैसे sources को समर्थन देता है। इसमें safe-search mode, content truncation और image proxy options भी हैं। Billing और administration: दो billing modes उपलब्ध हैं: subscriptions और elastic billing, जिसमें per-request, per-token, free या anonymous calls तथा minimum request point checks शामिल हैं। Gift codes और redemption codes promotions या card sales के लिए batch generation के समर्थन के साथ आते हैं। Admin backend में dashboards, announcement और notification management, user और subscription management, price settings, custom site name और logo, तथा SMTP configuration शामिल हैं। वैकल्पिक model cache समान request parameter hashes के लिए पहले से गणिता गया परिणाम वापस देता है और cache hit पर बिलिंग नहीं करता; cache duration और result counts को configurable किया जा सकता है। Deployment: Docker और Docker Compose recommended install paths हैं, जिनके लिए MySQL और Redis की आवश्यकता है। Zeabur, BTPanel और Alibaba Cloud ComputeNest के लिए one-click options उपलब्ध हैं। Frontend के लिए pnpm और backend के लिए Go का उपयोग करके source से भी build किया जा सकता है। Initial admin account root है और इसका default password deployment के तुरंत बाद बदलना चाहिए। Project Apache-2.0 license के तहत है। अलग commercial Pro edition में TTS/STT, plugin marketplace, RAG knowledge base, अतिरिक्त payment providers और channel health monitoring जैसी सुविधाएँ हैं; ये सुविधाएँ open-source repository का हिस्सा नहीं हैं।