오픈 소스. 새로운 가능성.

SQLite만 사용하는 OpenAI/Anthropic 경량 릴레이 게이트웨이로, 자격 증명 풀 관리, 자동 장애 조치, New API 채널 자동 동기화 기능 제공.

CogniGate는 여러 모델 제공자를 관리하면서 자격 증명을 안전하게 유지하고, 단일 OpenAI 호환 엔드포인트를 제공하는 셀프 호스팅 방식의 멀티테넌트 LLM 게이트웨이입니다.

Headroom은 AI 에이전트가 LLM에 전달하기 전 도구 출력, 로그, RAG 청크, 파일 및 대화 기록을 압축하여 토큰 사용량을 줄이고 핵심 정보를 유지하는 로컬 컨텍스트 압축 레이어입니다. Claude, Codex, Copilot, Cursor 등 다양한 에이전트와 호환됩니다.

자체 호스팅 멀티테넌트 AI 플랫폼으로, 정교한 채팅 UI와 OpenAI 호환 LLM 게이트웨이를 결합합니다: 우선순위 및 가중치 기반 로드 밸런싱을 갖춘 멀티프로바이더 채널 라우팅, 구독 및 사용량 과금, 관리자 대시보드, 파일 파싱, SearXNG 웹 검색.

Azure OpenAI API 요청을 DeepSeek, Anthropic, Ollama 등 LiteLLM 지원 백엔드로 변환하는 경량 프록시로, JetBrains IDE와 같은 Azure 호환 도구를 통해 통합 액세스를 가능하게 합니다.

Inja LLM 게이트웨이는 OpenAI, Anthropic, Gemini 요청을 여러 공급자로 라우팅하는 무상태 API 게이트웨이로, 교차 방언 번역, 사용량 측정, 단일 바이너리 배포를 지원합니다.

OpenAI 호환형 장애조치 프록시로, LLM 제공자 간에 자동 전환하여 서비스 중단을 방지하고 지연 시간을 줄입니다.

One API는 OpenAI, Azure, Anthropic Claude, Google Gemini, DeepSeek 등 주요 대규모 언어 모델을統일된 OpenAI 형식 인터페이스로 관리·배분하는 시스템입니다. 토큰 관리, 채널 부하 분산, 사용자 그룹화, 재분배 기능을 지원하며 단일 바이너리 또는 Docker로 원클릭 배포됩니다.