llm-gateway-with-litellmMd-Emon-Hasan
신규LiteLLM과 LangChain을 활용한 LLM 게이트웨이 프로젝트. OpenAI 호환 API를 통해 여러 AI 제공업체에 통합 접근, 지능형 라우팅, 자동 장애 조치, 부하 분산, 비용 추적, 캐싱, 관측 가능성 및 PII 숨기기·프롬프트 주입 차단 같은 입력 측 가드레일을 제공한다.
우수한 오픈 소스 프로젝트를 발견하고, 익명으로 프로젝트를 제출하며, 내 프로젝트를 신청해 편집하세요.
호기심으로 오픈 소스의 세계를 발견하세요.
THE FIRST COLLECTIONLiteLLM과 LangChain을 활용한 LLM 게이트웨이 프로젝트. OpenAI 호환 API를 통해 여러 AI 제공업체에 통합 접근, 지능형 라우팅, 자동 장애 조치, 부하 분산, 비용 추적, 캐싱, 관측 가능성 및 PII 숨기기·프롬프트 주입 차단 같은 입력 측 가드레일을 제공한다.