llm-master

O LLM Master fornece uma interface padronizada para consultar múltiplos modelos de IA através de uma única API. Ele simplifica o processo de alternância entre diferentes provedores, abstraindo as chamadas de API subjacentes em um formato unificado. As principais capacidades incluem: - Interface de Consulta Unificada: Um método único para interagir com vários LLMs e modelos de geração de imagens. - Mecanismo de Fallback: Suporte para especificar modelos de fallback e configurações compatíveis para garantir a confiabilidade quando um modelo primário falha. - Sistema de Provedores Extensível: Uma estrutura estruturada para adicionar novos provedores de API, incluindo suporte para APIs compatíveis com OpenAI e APIs não padronizadas completamente personalizadas. - Registro de Modelos: Um sistema centralizado para gerenciar configurações de modelos, incluindo preços e limites de taxa. - Suporte à Geração de Imagens: Capacidades de integração para serviços de geração de imagens (ex: Recraft.AI, Black Forest Labs), incluindo suporte para APIs baseadas em polling.