Об этом проекте

CoAI (ранее Chat Nio) — это открытая платформа для самостоятельного размещения, объединяющая потребительское ИИ-чат-приложение с API-шлюзом и системой дистрибуции, совместимыми с OpenAI, предназначенная для операторов, желающих обслуживать как конечных пользователей, так и разработчиков из единого развёртывания. Поддержка моделей и провайдеров: шлюз интегрирует широкий набор провайдеров и форматов, включая OpenAI и Azure OpenAI, Anthropic Claude, Google Gemini и PaLM2, Midjourney (с действиями U/V/R), iFlytek SparkDesk, Zhipu ChatGLM, Alibaba Tongyi Qianwen, Tencent Hunyuan, Baichuan, Moonshot, DeepSeek, ByteDance Skylark, Groq, OpenRouter, 360 GPT, а также локальные среды выполнения, такие как LocalAI и Ollama. Поддержка генерации изображений по тексту охватывает DALL-E, Midjourney и Stable Diffusion. Описание репозитория указывает поддержку более 200 моделей от 35+ провайдеров. Управление шлюзом и каналами: каналы можно настраивать с приоритетным упорядочиванием, балансировкой нагрузки по весам в пределах одного приоритета, группировкой пользователей, автоматическим повтором при сбое, перенаправлением моделей, скрытием вышестоящих узлов и управлением статусом каналов. Открытые эндпоинты, совместимые с OpenAI, включают /v1/chat/completions, /v1/images, /v1/models и /v1/billing. Чат и функции для конечных пользователей: веб-интерфейс (React, Redux, Radix UI, Tailwind CSS) адаптивен для ПК, планшетов и мобильных устройств, поддерживает светлую и тёмную темы и мультиязычную интернационализацию. Рендеринг Markdown охватывает формулы LaTeX, диаграммы Mermaid, таблицы, подсветку кода и графики. Разговоры синхронизируются между устройствами без зависимостей от WebDAV или WebRTC и могут быть опубликованы по ссылке или сохранены в виде изображений. Настраиваемый маркетплейс моделей и система пресетов (с облачной синхронизацией) управляются из админ-панели. Доступны сборка в формате PWA и настольное приложение на базе Tauri. Файлы и поиск: парсинг файлов работает «из коробки» для PDF, DOCX, PPTX, Excel и форматов изображений во всех моделях, с поддержкой OCR и облачного объектного хранилища (S3, R2, MinIO) через сопутствующий сервис blob. Веб-поиск построен на движке SearXNG и поддерживает источники, такие как Google, Bing, DuckDuckGo, Yahoo, Wikipedia, Arxiv и Qwant, с режимом безопасного поиска, усечением контента и опциями проксирования изображений. Биллинг и администрирование: предлагаются два режима биллинга — подписки и эластичный биллинг (по запросу, по токену, бесплатно или анонимные вызовы, с проверкой минимального количества очков на запрос). Подарочные коды и коды активации поддерживают пакетную генерацию для промоакций или продажи карт. Админ-панель включает дашборды, управление объявлениями и уведомлениями, управление пользователями и подписками, настройку цен, пользовательское название сайта и логотип, а также конфигурацию SMTP. Необязательный кэш моделей возвращает ранее вычисленные результаты для одинаковых хэшей параметров запроса без биллинга за попадание в кэш, с настраиваемым временем жизни кэша и количеством результатов. Развёртывание: рекомендуемые пути установки — Docker и Docker Compose (требуется MySQL и Redis), с однонажимными вариантами для Zeabur, BTPanel и Alibaba Cloud ComputeNest, а также сборкой из исходного кода с использованием pnpm для фронтенда и Go для бэкенда. Начальная учётная запись администратора — root с паролем по умолчанию, который следует немедленно изменить после развёртывания. Проект распространяется по лицензии Apache-2.0. Отдельная коммерческая версия Pro добавляет функции, такие как TTS/STT, маркетплейс плагинов, RAG-базу знаний, дополнительные платёжные провайдеры и мониторинг здоровья каналов; эти возможности не входят в открытый репозиторий.