오픈 소스. 새로운 가능성.

키별 토큰 예산 설정, 속도 제한, 비용 대시보드 및 자동 모델 다운그레이드 기능을 갖춘 가벼운 OpenAI API 리버스 프록시입니다.

FastAPI 기반 경량 프록시 서버로 OpenAI Chat Completions와 Embeddings API를 전달합니다. 다중 테넌트 키 매핑, 스트리밍, 공식 SDK 호환을 데이터베이스 없이 지원합니다.

CogniGate는 여러 모델 제공자를 관리하면서 자격 증명을 안전하게 유지하고, 단일 OpenAI 호환 엔드포인트를 제공하는 셀프 호스팅 방식의 멀티테넌트 LLM 게이트웨이입니다.

RouteTok은 OpenAI 및 Anthropic 호환 API를 갖춘 로컬 우선 LLM 추론 라우터로, 건강 상태 기반 페일오버, 다중 제공업체 카탈로그, 운영 대시보드, 모델 샌드박스를 제공합니다.

LLM 라우팅, 재시도, 폴백, 구조화된 출력 및 사용량/비용 계정을 위한 제공자 중립적 FastAPI 게이트웨이입니다. 모델 별칭, 재시도 정책 및 지속적인 사용량 추적을 통해 Gemini와 OpenAI를 지원합니다.

OpenAI API로 일반적인 작업을 수행하기 위한 예시 코드와 가이드 모음. 대부분 Python으로 작성되었으며, 실행에는 OpenAI 계정과 API 키가 필요합니다.

AI 기반 실시간 비주얼 노벨 엔진으로, 스트리밍 내러티브, 캐릭터 스프라이트, 씬 배경, 분기 선택, 공동 창작 기능을 제공하며, FastAPI+SSE를 통해 데스크톱 앱 또는 브라우저에서 실행됩니다.

Xinference는 언어, 음성, 멀티모달 모델을 제공하는 통합 추론 라이브러리입니다. OpenAI 호환 RESTful API, 이기종 GPU/CPU 활용, 분산 배포를 지원하며 LangChain, LlamaIndex, Dify, Chatbox와 통합됩니다.

One API는 OpenAI, Azure, Anthropic Claude, Google Gemini, DeepSeek 등 주요 대규모 언어 모델을統일된 OpenAI 형식 인터페이스로 관리·배분하는 시스템입니다. 토큰 관리, 채널 부하 분산, 사용자 그룹화, 재분배 기능을 지원하며 단일 바이너리 또는 Docker로 원클릭 배포됩니다.

GPT4Free는 다양한 언어 모델 및 미디어 생성 제공업체를 하나의 통합 인터페이스로 집계합니다. Python/JS 클라이언트, OpenAI 호환 REST API, GUI 및 CLI를 제공하며, gpt-4o-mini 및 flux를 포함한 다양한 모델을 통해 텍스트와 이미지 생성을 지원합니다.