프로젝트 소개
OpenAI Relay는 모델 접두사를 사용해 API 요청을 서로 다른 OpenAI 호환 백엔드 서비스로 라우팅하도록 설계된 경량 릴레이 서비스입니다. Bun 런타임으로 구축되었으나 Deno 및 Node.js와의 호환성도 유지됩니다.
주요 기능:
- OpenAI API仕様호환
- 제공자, 모델 매핑, API 키를 위한 환경변수 기반 구성
- Docker, Kubernetes용 Helm 차트, Bun/Deno/Node.js를 통한 직접 실행 등 다양한 배포 옵션
- JSR 및 npm에서 사용 가능해 쉽게 통합 가능
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.