llm-master

LLM Master는 단일 API를 통해 여러 AI 모델에 쿼리할 수 있는 표준화된 인터페이스를 제공합니다. 이는 기본 API 호출을 통합된 형식으로 추상화하여 서로 다른 제공업체 간의 전환 프로세스를 단순화합니다. 주요 기능은 다음과 같습니다: - 통합 쿼리 인터페이스: 다양한 LLM 및 이미지 생성 모델과 상호작용하기 위한 단일 메서드. - 폴백(Fallback) 메커니즘: 기본 모델 실패 시 신뢰성을 보장하기 위해 폴백 모델 및 호환 구성을 지정하는 기능 지원. - 확장 가능한 제공업체 시스템: OpenAI 호환 API 및 완전히 맞춤형인 비표준 API를 포함하여 새로운 API 제공업체를 추가하기 위한 구조화된 프레임워크. - 모델 레지스트리: 가격 및 속도 제한을 포함한 모델 구성을 관리하는 중앙 집중식 시스템. - 이미지 생성 지원: 폴링 기반 API 지원을 포함하여 이미지 생성 서비스(예: Recraft.AI, Black Forest Labs)에 대한 통합 기능.