오픈 소스. 새로운 가능성.

Kong Gateway는 플러그인 기반 확장성, 라우팅, 로드 밸런싱, 인증 및 AI 트래픽 기능을 갖춘 클라우드 네이티브, 플랫폼에 구애받지 않는 API, LLM 및 MCP 게이트웨이입니다.

Apache APISIX는 NGINX와 etcd를 기반으로 구축된 동적, 실시간, 고성능 클라우드 네이티브 API 및 AI 게이트웨이로, 동적 라우팅, 플러그인 핫로딩, 멀티 프로토콜 지원, LLM 워크로드를 위한 AI 프록시를 제공합니다.

AI Gateway는 의도, 비용, 공급업체 상태에 따라 LLM 요청을 지능적으로 라우팅하는 인프라로, 멀티테넌트 접근, 캐싱, 장애 조치, 관찰성을 지원하여 생산 환경 AI 앱의 비용을 절감하고 신뢰성을 향상시킵니다.

OmniRoute는 352개 이상의 AI 제공업체와 1,200개 이상의 모델에 단일 엔드포인트로 접근할 수 있는 MIT 라이선스 오픈소스 AI 게이트웨이입니다. 할당량 기반 자동 폴백, 15~95% 토큰 압축을 지원하며 Claude Code, Cursor, Cline 등 코딩 에이전트와 통합됩니다.

MultiRouter AI는 자동 페일오버 및 부하 분산 기능을 통해 여러 AI 제공업체 간에 채팅 요청을 라우팅하는 OpenAI 호환 게이트웨이입니다. YAML 설정을 통해 Groq, Cerebras, Gemini, OpenAI 및 커스텀 엔드포인트를 지원합니다.

자체 호스팅 멀티테넌트 AI 플랫폼으로, 정교한 채팅 UI와 OpenAI 호환 LLM 게이트웨이를 결합합니다: 우선순위 및 가중치 기반 로드 밸런싱을 갖춘 멀티프로바이더 채널 라우팅, 구독 및 사용량 과금, 관리자 대시보드, 파일 파싱, SearXNG 웹 검색.

一个专为 Cloudflare Workers AI 设计的零成本网关。通过多账号免费额度叠加、智能路由和熔断机制，将 Qwen3 等模型转化为标准 OpenAI API，支持 Cherry Studio 等客户端接入。

gateway는 OpenAI용 헤드리스 AI 게이트웨이로, 보안 멀티 사용자 접근, 비용 추적, 속도 제한, PII 삭제 기능을 최소 설정으로 제공합니다.

SMBU 캠퍼스 네트워크를 위한 AI API 게이트웨이 및 사용자 포털로, New API를 기반으로 개발되었습니다. 캠퍼스 이메일 가입, 그래픽 캡차, 모델 마켓, 튜토리얼 및 피드백 시스템을 지원합니다.

LiteLLM은 100개 이상의 다양한 LLM 제공업체를 호출할 수 있는 통합 OpenAI 호환 인터페이스를 제공하는 오픈 소스 AI Gateway 및 Python SDK입니다.

AIGate는 로컬에서 실행되는 OpenAI 호환 API 게이트웨이로, 다중 공급업체 라우팅, 회로 차단 보호, 중국어 오류 메시지, 시각적 관리 패널 및 네이티브 데스크톱 앱을 지원합니다.

New API는 여러 AI 제공업체를 통합하고 OpenAI·Claude·Gemini API 형식을 변환하는 자체 호스팅 LLM 게이트웨이로, 다중 사용자 인증, 채널 라우팅, 재시도, 사용량 기반 과금을 지원합니다.

Switchboard는 로컬에서 실행되는 AI 게이트웨이로, 16개 제공업체 간 요청을 라우팅하며免費 티어 우선, 자동 폴백, 상세 결정 로그를 제공합니다. 클라우드 계정 없이 작동합니다.

Higress는 Istio와 Envoy 기반의 클라우드 네이티브 AI 네이티브 API 게이트웨이로, Wasm 플러그인 확장성, 통합 LLM 제공자 접근, MCP 서버 호스팅, Kubernetes 인그레스 지원을 특징으로 합니다.

Hyperstrate Server는 자체 호스팅 엔터프라이즈 AI 게이트웨이로, LLM 트래픽의 모델 라우팅, 프로바이더 오케스트레이션, 거버넌스를 제공하는 솔루션입니다.

LiteLLM과 LangChain을 활용한 LLM 게이트웨이 프로젝트. OpenAI 호환 API를 통해 여러 AI 제공업체에 통합 접근, 지능형 라우팅, 자동 장애 조치, 부하 분산, 비용 추적, 캐싱, 관측 가능성 및 PII 숨기기·프롬프트 주입 차단 같은 입력 측 가드레일을 제공한다.