litellmBerriAI
신규LiteLLM은 100개 이상의 다양한 LLM 제공업체를 호출할 수 있는 통합 OpenAI 호환 인터페이스를 제공하는 오픈 소스 AI Gateway 및 Python SDK입니다.
우수한 오픈 소스 프로젝트를 발견하고, 익명으로 프로젝트를 제출하며, 내 프로젝트를 신청해 편집하세요.
호기심으로 오픈 소스의 세계를 발견하세요.
THE FIRST COLLECTIONLiteLLM은 100개 이상의 다양한 LLM 제공업체를 호출할 수 있는 통합 OpenAI 호환 인터페이스를 제공하는 오픈 소스 AI Gateway 및 Python SDK입니다.
LiteLLM과 LangChain을 활용한 LLM 게이트웨이 프로젝트. OpenAI 호환 API를 통해 여러 AI 제공업체에 통합 접근, 지능형 라우팅, 자동 장애 조치, 부하 분산, 비용 추적, 캐싱, 관측 가능성 및 PII 숨기기·프롬프트 주입 차단 같은 입력 측 가드레일을 제공한다.