프로젝트 소개

Wynth API는 차세대 LLM 게이트웨이 및 AI 자산 관리 시스템으로 설계된 New API의 다운스트림 포크입니다. 여러 AI 모델 제공자를 관리하기 위한 중앙 집중식 인터페이스를 제공하며, 조직 수준의 인증, 사용량 분석 및 비용 회계 기능을 제공합니다. 주요 기능은 다음과 같습니다: - 계정 풀링: OpenAI, Anthropic, Gemini, Vertex AI, xAI 및 grok.com을 위한 멀티 플랫폼 계정 풀링을 지원하며, 실패 등급 기반 쿨다운, 부하 인식 선택 및 사용자별 동시성 제어 기능을 갖추고 있습니다. - 모델 지원: OpenAI 호환 모델, Claude (Messages 형식), Google Gemini, Midjourney-Proxy, Suno-API 및 Rerank 모델 (Cohere, Jina)과의 통합을 지원합니다. - 지능형 라우팅: 가중치 기반 랜덤 채널 선택, 실패 시 자동 재시도 및 사용자 수준의 속도 제한을 지원합니다. - 형식 변환: OpenAI 호환, Claude Messages 및 Google Gemini 형식 간의 변환을 수행합니다. - 관리 도구: 데이터 대시보드, 권한 관리(토큰 그룹화, 모델 제한)가 포함된 현대적인 UI를 제공하며 OIDC, Discord, Telegram, LinuxDO를 포함한 다양한 인증 방법을 지원합니다. - 배포: Docker 및 Docker Compose를 지원하며, 데이터베이스 옵션으로 SQLite, MySQL, PostgreSQL을 사용할 수 있습니다.