openproxy

OpenProxy는 자체 호스팅 서비스로, OpenAI와 Anthropic을 포함한 여러 AI 제공업체를 위한 API 프록시 역할을 합니다. 통합된 API 인터페이스를 제공하며, OpenAI의 `/v1/chat/completions`과 Anthropic의 `/v1/messages` 엔드포인트 모두와 호환됩니다. 시스템은 다중 제공업체 페일오버를 지원하고, 가중치 기반 로드 밸런싱과 실패 시 자동 대체 기능을 제공합니다. 또한 각 제공업체별로 여러 API 키를 순환시키며, 최근 사용된 키 조합을 비우대함으로써 사용량 제한을 피할 수 있습니다. 관리자는 할당량, 만료일, 모델 접근 제어를 통해 API 키를 관리할 수 있으며, 모든 요청에 대해 비용, 응답 시간, 제공업체 정보를 추적합니다. 웹 기반 관리 대시보드를 통해 모델, 제공업체, 사용자, 주문을 관리할 수 있고, tenants는 사용량 차트, 잔액, 요청 이력을 확인할 수 있는 대시보드를 제공합니다. 제공업체 API 키는 RSA 방식으로 암호화되어 저장됩니다. 인증 방식으로는 이메일/비밀번호, 휴대폰 OTP, GitHub, Google을 사용할 수 있으며, better-auth를 기반으로 합니다. 예시 사용법은 베어러 토큰을 사용하여 프록시 엔드포인트에 표준 OpenAI 스타일의 요청을 전송하는 것입니다. 이 소프트웨어는 MIT 라이선스에 따라 배포됩니다.