오픈 소스. 새로운 가능성.

XTokenHub는 여러 LLM 제공자의 API 키를 채널 형태로 통합하여 OpenAI 및 Anthropic 표준 엔드포인트를 제공하는 셀프 호스팅 API 게이트웨이입니다. 실시간 토큰 사용량, 캐시 적중률 및 키별 통계를 추적하며, Go와 React 기반의 단일 바이너리로 배포됩니다.

Token Station은 AI 에이전트와 LLM 제공자를 위한 로컬 라우팅 게이트웨이입니다. Claude Code, Cursor, Codex, Gemini CLI 등을 루프백 전용 게이트웨이를 통해 라우팅하며, 스마트 티어 선택, 할당량 인식 라우팅, 사용량 추적을 제공합니다.

Inja LLM 게이트웨이는 OpenAI, Anthropic, Gemini 요청을 여러 공급자로 라우팅하는 무상태 API 게이트웨이로, 교차 방언 번역, 사용량 측정, 단일 바이너리 배포를 지원합니다.

Higress는 Istio와 Envoy 기반의 클라우드 네이티브 AI 네이티브 API 게이트웨이로, Wasm 플러그인 확장성, 통합 LLM 제공자 접근, MCP 서버 호스팅, Kubernetes 인그레스 지원을 특징으로 합니다.

One API는 OpenAI, Azure, Anthropic Claude, Google Gemini, DeepSeek 등 주요 대규모 언어 모델을統일된 OpenAI 형식 인터페이스로 관리·배분하는 시스템입니다. 토큰 관리, 채널 부하 분산, 사용자 그룹화, 재분배 기능을 지원하며 단일 바이너리 또는 Docker로 원클릭 배포됩니다.

Kong Gateway는 플러그인 기반 확장성, 라우팅, 로드 밸런싱, 인증 및 AI 트래픽 기능을 갖춘 클라우드 네이티브, 플랫폼에 구애받지 않는 API, LLM 및 MCP 게이트웨이입니다.

AWS 기반의 완전한 서버리스 이벤트 중심 클릭스트림 데이터 파이프라인입니다. API Gateway, Kinesis, Firehose, Lambda, Athena를 활용해 Clickstream 이벤트를 수집·변환·저장하며, AWS SAM으로 IaC를 제공합니다.

Apache APISIX는 NGINX와 etcd를 기반으로 구축된 동적, 실시간, 고성능 클라우드 네이티브 API 및 AI 게이트웨이로, 동적 라우팅, 플러그인 핫로딩, 멀티 프로토콜 지원, LLM 워크로드를 위한 AI 프록시를 제공합니다.

llm-apipool은 40개 이상 무료 LLM API를 단일 OpenAI 호환 엔드포인트로 집계합니다. 키 자동 회전,_RATE_ 제한 처리, 사용량 추적, CLI/TUI/프록시/LangChain 통합을 지원합니다.