오픈 소스. 새로운 가능성.

OmniRoute는 352개 이상의 AI 제공업체와 1,200개 이상의 모델에 단일 엔드포인트로 접근할 수 있는 MIT 라이선스 오픈소스 AI 게이트웨이입니다. 할당량 기반 자동 폴백, 15~95% 토큰 압축을 지원하며 Claude Code, Cursor, Cline 등 코딩 에이전트와 통합됩니다.

단순한 쿼리는 소형 언어 모델(SLM)로, 복잡한 쿼리는 프런티어 모델로 라우팅하여 비용을 최적화하는 OpenAI 호환 프로덕션급 스마트 LLM 라우터 및 폴백 프록시입니다.

LiteLLM은 100개 이상의 다양한 LLM 제공업체를 호출할 수 있는 통합 OpenAI 호환 인터페이스를 제공하는 오픈 소스 AI Gateway 및 Python SDK입니다.

AIGate는 로컬에서 실행되는 OpenAI 호환 API 게이트웨이로, 다중 공급업체 라우팅, 회로 차단 보호, 중국어 오류 메시지, 시각적 관리 패널 및 네이티브 데스크톱 앱을 지원합니다.

LLM Context Squeezer는 채팅 기록 압축, 중복 코드 제거, 의미 기반 캐싱을 통해 LLM API 비용을 절감하는 경량 로컬 API 프록시입니다.

Kong Gateway는 플러그인 기반 확장성, 라우팅, 로드 밸런싱, 인증 및 AI 트래픽 기능을 갖춘 클라우드 네이티브, 플랫폼에 구애받지 않는 API, LLM 및 MCP 게이트웨이입니다.

Bun 런타임으로 구축된 경량 OpenAI API 릴레이 서비스로, 모델 접두사 기반으로 다양한 호환 백엔드로 요청을 라우팅합니다.

llm-apipool은 40개 이상 무료 LLM API를 단일 OpenAI 호환 엔드포인트로 집계합니다. 키 자동 회전,_RATE_ 제한 처리, 사용량 추적, CLI/TUI/프록시/LangChain 통합을 지원합니다.

키별 토큰 예산 설정, 속도 제한, 비용 대시보드 및 자동 모델 다운그레이드 기능을 갖춘 가벼운 OpenAI API 리버스 프록시입니다.

FastAPI 기반 경량 프록시 서버로 OpenAI Chat Completions와 Embeddings API를 전달합니다. 다중 테넌트 키 매핑, 스트리밍, 공식 SDK 호환을 데이터베이스 없이 지원합니다.

쿠키 기반 인증으로 Gemini Web API에 OpenAI 호환 프록시. 스트리밍, 도구 호출 지원, API 키 없이 다중 모델 지원.