new-api

New API는 대규모 언어 모델 API용 자체 호스팅 게이트웨이이자 관리 시스템으로, One API 프로젝트의 차세대 후속작으로 자리매김합니다. 여러 업스트림 모델 제공업체를 단일 엔드포인트 뒤에 통합하고 서로 다른 요청/응답 형식을 정규화하여, 클라이언트는 하나의 API 표면과 통신하고 게이트웨이가 변환을 처리합니다. README에 설명된 핵심 기능: - 형식 변환: OpenAI 호환 ⇄ Claude Messages, OpenAI 호환 → Google Gemini, Gemini → OpenAI 호환(텍스트 전용, 함수 호출은 아직 미지원). OpenAI Responses 변환은 개발 중으로 표시됩니다. "thinking-to-content" 기능도 언급됩니다. - 인터페이스 범위: 채팅 완성, Responses, 이미지, 오디오, 비디오, 임베딩, rerank(Cohere, Jina), 실시간 세션(Azure 포함), Claude Messages 및 Google Gemini 채팅. Midjourney-Proxy, Suno API 및 Dify ChatFlow도 지원되는 업스트림 유형으로 나열되며, 구성 가능한 사용자 지정 업스트림 엔드포인트도 포함됩니다. - 라우팅 및 안정성: 채널 가중치 무작위 선택, 실패 시 자동 재시도, 사용자 수준 모델 속도 제한. - 추론 노력 제어: OpenAI o-시리즈 및 GPT-5용 -high/-medium/-low 같은 모델 이름 접미사, Claude용 -thinking 변형, Gemini 모델용 thinking/nothinking 및 예산 접미사. - 계정 및 액세스: 토큰 그룹화, 모델 제한, 사용자 관리, Discord, LinuxDO, Telegram 및 OIDC를 통한 인증 로그인. 관련 키 할당량 조회 도구가 참조됩니다. - 회계: EPay 및 Stripe를 통한 내부 충전 및 할당량 배분, 요청별 및 사용량 기반 비용 회계, OpenAI, Azure, DeepSeek, Claude, Qwen 같은 제공업체의 캐시 적중 과금 통계. - 운영: 통계가 포함된 시각적 대시보드, 다국어 UI(중국어 간체/번체, 영어, 프랑스어, 일본어), 원래 One API 스키마와의 데이터베이스 호환성. 배포는 Docker 중심입니다. docker-compose 파일이 제공되며, SQLite(기본값, /data 마운트 필요) 또는 MySQL을 사용한 단일 컨테이너 실행이 문서화되어 있습니다. PostgreSQL ≥ 9.6 및 MySQL ≥ 5.7.8이 원격 데이터베이스로 지원됩니다. 64비트 amd64/arm64만 지원됩니다. BaoTa 패널 원클릭 설치도 문서화되어 있습니다. 다중 노드 설정은 공유 기본 데이터베이스와 동일한 SESSION_SECRET이 필요하며, Redis를 공유하는 노드는 CRYPTO_SECRET도 공유해야 합니다. README는 공유 Redis, 노드별 Redis, Redis 없음 토폴로지에서의 세션 처리, 각 경우의 지연 창 및 속도 제한 동작을 자세히 설명합니다. 타임아웃, 요청 본문 제한, 스트림 버퍼링, 신뢰된 프록시, 세션 제한 및 Pyroscope 프로파일링에 대한 다양한 환경 변수가 문서화되어 있습니다. 이 프로젝트는 AGPLv3 라이선스에 추가 섹션 7 조건이 적용되며, 수정 버전에서 저작자 표시와 원본 저장소에 대한 보이는 링크를 유지해야 합니다. One API(MIT)에서 파생되었습니다. README는 합법적이고 승인된 게이트웨이, 다중 모델 관리, 분석 및 사설 배포 시나리오에서의 사용을 의도하며, 공개 생성형 AI 서비스를 제공하는 운영자는 관련 신고, 라이선스, 콘텐츠 안전 및 기타 의무를 충족해야 한다고 강조합니다.