llm-master

LLM Master fournit une interface standardisée pour interroger plusieurs modèles d'IA via une seule API. Il simplifie le processus de commutation entre différents fournisseurs en faisant abstraction des appels API sous-jacents dans un format unifié. Les capacités clés incluent : - Interface de requête unifiée : Une méthode unique pour interagir avec divers LLM et modèles de génération d'images. - Mécanisme de repli (Fallback) : Prise en charge de la spécification de modèles de secours et de configurations compatibles pour garantir la fiabilité lorsqu'un modèle principal échoue. - Système de fournisseurs extensible : Un cadre structuré pour ajouter de nouveaux fournisseurs d'API, incluant le support des API compatibles OpenAI et des API personnalisées non standard. - Registre de modèles : Un système centralisé pour gérer les configurations des modèles, y compris la tarification et les limites de débit. - Support de la génération d'images : Capacités d'intégration pour les services de génération d'images (par exemple, Recraft.AI, Black Forest Labs), incluant le support des API basées sur le polling.