このプロジェクトについて
CoAI(旧Chat Nio)は、オープンソースのセルフホスト型プラットフォームで、消費者向けAIチャットアプリケーションとOpenAI互換のAPIゲートウェイ・配信システムを組み合わせたものです。エンドユーザーと開発者の両方に単一のデプロイメントでサービスを提供したいオペレーターを対象としています。
モデルとプロバイダーのサポート:ゲートウェイは、OpenAIやAzure OpenAI、Anthropic Claude、Google GeminiやPaLM2、Midjourney(U/V/Rアクション対応)、iFlytek SparkDesk、Zhipu ChatGLM、Alibaba Tongyi Qianwen、Tencent Hunyuan、Baichuan、Moonshot、DeepSeek、ByteDance Skylark、Groq、OpenRouter、360 GPT、そしてLocalAIやOllamaなどのローカルランタイムを含む、さまざまなプロバイダーとフォーマットを統合しています。テキストから画像への生成は、DALL-E、Midjourney、Stable Diffusionに対応しています。リポジトリの説明には、35以上のプロバイダーで200以上のモデルをサポートすると記載されています。
ゲートウェイとチャネル管理:チャネルは、優先順位付け、同一優先度内での重み付けロードバランシング、ユーザーグループ化、失敗時の自動リトライ、モデルリダイレクト、アップストリーム非表示、チャネルステータス管理を設定できます。公開されるOpenAI互換エンドポイントには、/v1/chat/completions、/v1/images、/v1/models、/v1/billingがあります。
チャットとエンドユーザー機能:Web UI(React、Redux、Radix UI、Tailwind CSS)はPC、タブレット、モバイルに対応したレスポンシブデザインで、ライト/ダークテーマと多言語国際化を備えています。Markdownレンダリングは、LaTeX数式、Mermaid図、テーブル、コードハイライト、チャートをカバーしています。会話はWebDAVやWebRTCに依存せずにデバイス間で同期され、リンクで共有したり、画像として保存したりできます。カスタマイズ可能なモデルマーケットプレイスとプリセットシステム(クラウド同期対応)はバックエンドから管理されます。PWAビルドとTauriベースのデスクトップアプリも利用可能です。
ファイルと検索:ファイル解析は、PDF、DOCX、PPTX、Excel、画像形式をすべてのモデルでそのままサポートし、OCRとクラウドオブジェクトストレージ(S3、R2、MinIO)は、コンパニオンのblobサービスを通じて処理されます。ウェブ検索はSearXNGエンジンに基づいており、Google、Bing、DuckDuckGo、Yahoo、Wikipedia、Arxiv、Qwantなどのソースをサポートし、セーフサーチモード、コンテンツ切り詰め、画像プロキシオプションを備えています。
課金と管理:サブスクリプションと弾力性課金(リクエストごと、トークンごと、無料、匿名呼び出し、最小リクエストポイントチェック付き)の2つの課金モードが提供されています。ギフトコードと引き換えコードは、プロモーションやカード販売用に一括生成をサポートしています。管理バックエンドには、ダッシュボード、お知らせと通知管理、ユーザーとサブスクリプション管理、価格設定、カスタムサイト名とロゴ、SMTP設定が含まれます。オプションのモデルキャッシュは、同一のリクエストパラメータハッシュに対して以前計算された結果を返し、キャッシュヒットには課金せず、キャッシュ期間と結果数を設定できます。
デプロイメント:DockerとDocker Composeが推奨されるインストール方法です(MySQLとRedisが必要)。Zeabur、BTPanel、Alibaba Cloud ComputeNest向けのワンクリックオプションに加え、フロントエンドはpnpm、バックエンドはGoを使用したソースからのビルドも可能です。初期管理者アカウントはrootで、デフォルトパスワードはデプロイメント後すぐに変更する必要があります。プロジェクトはApache-2.0ライセンスです。別の商用Proエディションでは、TTS/STT、プラグインマーケットプレイス、RAGナレッジベース、追加の決済プロバイダー、チャネルヘルスモニタリングなどの機能が追加されます。これらの機能はオープンソースリポジトリには含まれていません。
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.