프로젝트 소개

GPT-Load는 단일 진입점을 통해 여러 AI 제공자와 자격 증명을 관리하도록 설계된 자체 호스팅 AI 게이트웨이입니다. API 키와 구독 계정(Codex, Claude, Antigravity, Grok 등)을 모두 지원하며, 통합 자격 증명 관리, 트래픽 스케줄링, 재시도, 쿨다운, 블랙리스트, 세션 어피니티를 제공하여 과부하되거나 실패한 자격 증명의 영향을 줄입니다. 이 게이트웨이는 네이티브 OpenAI, Anthropic, Gemini 프로토콜을 노출하므로 클라이언트는 기존 인터페이스를 유지하면서 요청을 다양한 업스트림 서비스로 라우팅할 수 있습니다. 내장 채널에는 공식 및 클라우드 제공자(OpenAI, Anthropic, Gemini, xAI, Azure OpenAI, AWS Bedrock, Google Vertex AI), 모델 서비스(DeepSeek, Moonshot AI, SiliconFlow, Zhipu AI, Alibaba, Volcengine, OpenRouter, Groq), 구독 채널, 사용자 정의 OpenAI 호환 릴레이가 포함됩니다. 주요 기능은 다음과 같습니다: - 구성 가능한 가중치, 재시도, 쿨다운, 블랙리스트, 세션 어피니티를 갖춘 다중 자격 증명 스케줄링 - 내장 관리 UI에서의 요청 로깅, 사용량 통계, 비용 추정 - 로컬 자격 증명 암호화와 함께 SQLite, MySQL 또는 PostgreSQL 데이터베이스 지원 - 간단한 빠른 시작을 위한 Docker Compose 배포 - Linux, macOS, Windows용 네이티브 바이너리 빌드(Windows Setup 설치 프로그램 포함) - 네트워크, 데이터베이스, 로깅, 보안 설정을 위한 환경 변수 구성 GPT-Load 2.0은 완전한 재작성 버전이며 1.x 데이터를 그대로 마이그레이션할 수 없습니다. 단일 애플리케이션 인스턴스용으로 설계되었으며 수평 확장을 지원하지 않습니다. 사용량 및 비용 수치는 추정치이며 재무 기록으로 간주해서는 안 됩니다. 이 프로젝트는 MIT 라이선스이며 Bifrost Core, CLIProxyAPI, Lobe Icons와 같은 오픈 소스 구성 요소에 의존합니다.