프로젝트 소개

ai-router는 OpenAI 호환 API를 제공하며 요청을 가장 적합한 사용 가능한 제공사로 라우팅하는 스마트 LLM 라우터입니다. 내장된 제공사별 회로 차단기, 건강 모니터링 및 비용 추적을 갖추고 있습니다. 라우터는 우선순위, 현재 가용성 및 모델 태그(채팅, 코드, 고속 등)를 기반으로 제공사를 선택합니다. 채팅 완료, 건강 점검, 메트릭 보기 및 회로 차단기 관리를 위한 엔드포인트를 포함합니다.