cognigateLife-Experimentalist
신규CogniGate는 여러 모델 제공자를 관리하면서 자격 증명을 안전하게 유지하고, 단일 OpenAI 호환 엔드포인트를 제공하는 셀프 호스팅 방식의 멀티테넌트 LLM 게이트웨이입니다.
OPEN SOURCE, OPEN TO EVERYONE
오픈 소스. 새로운 가능성.
우수한 오픈 소스 프로젝트를 발견하고, 익명으로 프로젝트를 제출하며, 내 프로젝트를 신청해 편집하세요.
✳편집자 선정 · 좋은 오픈 소스 발견4083발견됨
호기심으로 오픈 소스의 세계를 발견하세요.
THE FIRST COLLECTIONTopic: rate-limiting清除
zai-proxyjedarden
신규Z.AI Claude API를 위한 프로덕션급 LLM 리버스 프록시로, 토큰 계산, 적응형 속도 제한, Prometheus 메트릭, 실시간 모니터링 대시보드를 제공합니다.
llm-gateway-with-litellmMd-Emon-Hasan
신규LiteLLM과 LangChain을 활용한 LLM 게이트웨이 프로젝트. OpenAI 호환 API를 통해 여러 AI 제공업체에 통합 접근, 지능형 라우팅, 자동 장애 조치, 부하 분산, 비용 추적, 캐싱, 관측 가능성 및 PII 숨기기·프롬프트 주입 차단 같은 입력 측 가드레일을 제공한다.