coai

CoAI(구 Chat Nio)는 소비자용 AI 채팅 애플리케이션과 OpenAI 호환 API 게이트웨이 및 배포 시스템을 결합한 오픈소스 자체 호스팅 플랫폼으로, 단일 배포 환경에서 최종 사용자와 개발자 모두를 서비스하려는 운영자를 대상으로 합니다. 모델 및 프로바이더 지원: 게이트웨이는 OpenAI 및 Azure OpenAI, Anthropic Claude, Google Gemini 및 PaLM2, Midjourney(U/V/R 액션 지원), iFlytek SparkDesk, Zhipu ChatGLM, Alibaba Tongyi Qianwen, Tencent Hunyuan, Baichuan, Moonshot, DeepSeek, ByteDance Skylark, Groq, OpenRouter, 360 GPT, 그리고 LocalAI 및 Ollama와 같은 로컬 런타임 등 다양한 프로바이더와 포맷을 통합합니다. 텍스트-이미지 변환 지원은 DALL-E, Midjourney, Stable Diffusion을 포함합니다. 저장소 설명에 따르면 35개 이상의 프로바이더에서 200개 이상의 모델을 지원합니다. 게이트웨이 및 채널 관리: 채널은 우선순위 순서, 동일 우선순위 내 가중치 기반 로드 밸런싱, 사용자 그룹화, 실패 시 자동 재시도, 모델 리디렉션, 업스트림 숨김, 채널 상태 관리를 설정할 수 있습니다. 노출되는 OpenAI 호환 엔드포인트에는 /v1/chat/completions, /v1/images, /v1/models, /v1/billing가 포함됩니다. 채팅 및 최종 사용자 기능: 웹 UI(React, Redux, Radix UI, Tailwind CSS)는 PC, 태블릿, 모바일에서 반응형으로 동작하며, 라이트/다크 테마와 다국어 국제화를 지원합니다. 마크다운 렌더링은 LaTeX 수식, Mermaid 다이어그램, 테이블, 코드 하이라이팅, 차트를 지원합니다. 대화는 WebDAV 또는 WebRTC 의존성 없이 기기 간 동기화되며, 링크 공유 또는 이미지 저장으로 공유할 수 있습니다. 사용자 정의 가능한 모델 마켓플레이스와 프리셋 시스템(클라우드 동기화 포함)은 백엔드에서 관리됩니다. PWA 빌드와 Tauri 기반 데스크톱 앱이 제공됩니다. 파일 및 검색: 파일 파싱은 모든 모델에서 PDF, DOCX, PPTX, Excel, 이미지 형식을 기본적으로 지원하며, OCR과 클라우드 오브젝트 저장소(S3, R2, MinIO)는 동반 블롭 서비스를 통해 처리됩니다. 웹 검색은 SearXNG 엔진 기반으로 Google, Bing, DuckDuckGo, Yahoo, Wikipedia, Arxiv, Qwant 등의 소스를 지원하며, 안전 검색 모드, 콘텐츠 절단, 이미지 프록시 옵션을 제공합니다. 과금 및 관리: 두 가지 과금 모드가 제공됩니다: 구독 과금과 탄력적 과금(요청당, 토큰당, 무료 또는 익명 호출, 최소 요청 포인트 체크 포함). 기프트 코드와 교환 코드는 프로모션 또는 카드 판매를 위한 일괄 생성을 지원합니다. 관리자 백엔드에는 대시보드, 공지 및 알림 관리, 사용자 및 구독 관리, 가격 설정, 사용자 정의 사이트 이름 및 로고, SMTP 구성이 포함됩니다. 선택적 모델 캐시는 동일한 요청 파라미터 해시를 가진 이전에 계산된 결과를 반환하며, 캐시 히트 시 과금하지 않고, 캐시 지속 시간과 결과 수를 설정할 수 있습니다. 배포: Docker와 Docker Compose가 권장 설치 경로이며(MySQL과 Redis 필요), Zeabur, BTPanel, Alibaba Cloud ComputeNest의 원클릭 옵션이 제공되고, 프론트엔드는 pnpm, 백엔드는 Go로 소스에서 빌드할 수 있습니다. 초기 관리자 계정은 root이며, 기본 비밀번호는 배포 직후 즉시 변경해야 합니다. 프로젝트는 Apache-2.0 라이선스로 배포됩니다. 별도의 상용 Pro 에디션은 TTS/STT, 플러그인 마켓플레이스, RAG 지식 베이스, 추가 결제 프로바이더, 채널 헬스 모니터링 등의 기능을 추가하며, 이러한 기능은 오픈소스 저장소의 일부가 아닙니다.