프로젝트 소개
AI Gateway Lite는 다양한 AI 제공업체와 상호작용하기 위한 단일 버전 관리 REST 계약을 제공하는 것을 목표로 하는 오픈 소스 프로젝트입니다. 제공업체 계층을 추상화함으로써, 사용자는 통합 코드를 다시 작성할 필요 없이 설정만으로 서로 다른 AI 서비스 간에 전환할 수 있습니다.
주요 아키텍처 목표는 다음과 같습니다:
- 제공업체 추상화: 게이트웨이 코어를 수정하지 않고 새로운 AI 제공업체를 추가할 수 있는 능력.
- 셀프 호스팅: Docker 및 Kubernetes 지원을 통해 사용자가 제어하는 인프라에서 실행되도록 설계되었습니다.
- 통합 API: OpenAI, Claude, Gemini를 포함한 여러 백엔드를 위한 단일 인터페이스.
참고: 이 프로젝트는 현재 구현 전 단계에 있습니다. 저장소에는 포괄적인 아키텍처 문서, 시스템 요구 사항 및 마스터 구현 계획이 포함되어 있으나, 애플리케이션 코드는 단계별 로드맵에 따라 여전히 개발 중입니다.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.