llm-master

LLM Master proporciona una interfaz estandarizada para consultar múltiples modelos de IA a través de una única API. Simplifica el proceso de cambiar entre diferentes proveedores al abstraer las llamadas a la API subyacente en un formato unificado. Las capacidades clave incluyen: - Interfaz de Consulta Unificada: Un único método para interactuar con varios LLMs y modelos de generación de imágenes. - Mecanismo de Fallback: Soporte para especificar modelos de respaldo y configuraciones compatibles para garantizar la confiabilidad cuando falla un modelo primario. - Sistema de Proveedores Extensible: Un marco estructurado para agregar nuevos proveedores de API, incluyendo soporte para APIs compatibles con OpenAI y APIs no estándar completamente personalizadas. - Registro de Modelos: Un sistema centralizado para gestionar las configuraciones de los modelos, incluyendo precios y límites de tasa. - Soporte de Generación de Imágenes: Capacidades de integración para servicios de generación de imágenes (por ejemplo, Recraft.AI, Black Forest Labs), incluyendo soporte para APIs basadas en sondeo.