subrelay

subrelay은 다중 OpenAI 및 Anthropic API 자격 증명을 관리하기 위해 설계된 경량 릴레이 게이트웨이입니다. 사용자와 상위 제공자 간 중간 계층으로 작동하며, 가중 랜덤 선택, 자동 장애 조치, 속도 제한 백오프 기능을 제공합니다. Redis나 PostgreSQL과 같은 외부 종속성 없이 SQLite를 저장소로 사용합니다. 주요 기능: - 프로토콜 호환성: OpenAI Chat Completions 및 Anthropic Messages API 지원. 프로토콜 일치 시 바이트 수준 퍼스스루로 도구 호출 및 제공자별 필드 보존 - 자격 증명 관리: 일일 예산 적용, 동시성 제한, 429/5xx 오류 시 자동 쿨다운 - New API 통합: sync-newapi 명령어로 로컬 구성과 New API 채널 조정. 더미 실행, 정리, GitOps 워크플로우 지원 - 관측 가능성: Prometheus 메트릭, 상태 확인, 자격 증명 진단 전용 doctor CLI 도구 - 개발자 친화성: 환경 변수 보간 가능한 YAML 구성, Python/Docker 단일 프로세스 배포