À propos du projet

GPT-Load est une passerelle IA auto-hébergée conçue pour gérer plusieurs fournisseurs d’IA et identifiants via un point d’entrée unique. Elle prend en charge les clés API et les comptes d’abonnement (tels que Codex, Claude, Antigravity et Grok), offrant une gestion unifiée des identifiants, une planification du trafic, des nouvelles tentatives, des périodes de refroidissement, une liste noire et une affinité de session afin de réduire l’impact des identifiants surchargés ou défaillants. La passerelle expose les protocoles natifs OpenAI, Anthropic et Gemini, permettant aux clients de conserver leurs interfaces existantes tout en acheminant les requêtes vers divers services en amont. Les canaux intégrés incluent les fournisseurs officiels et cloud (OpenAI, Anthropic, Gemini, xAI, Azure OpenAI, AWS Bedrock, Google Vertex AI), les services de modèles (DeepSeek, Moonshot AI, SiliconFlow, Zhipu AI, Alibaba, Volcengine, OpenRouter, Groq), les canaux d’abonnement et les relais personnalisés compatibles OpenAI. Les principales fonctionnalités incluent : - Planification multi-identifiants avec pondérations configurables, nouvelles tentatives, refroidissement, liste noire et affinité de session - Journalisation des requêtes, statistiques d’utilisation et estimations de coûts dans une interface de gestion intégrée - Prise en charge des bases de données SQLite, MySQL ou PostgreSQL avec chiffrement local des identifiants - Déploiement via Docker Compose avec un démarrage rapide simple - Builds binaires natifs pour Linux, macOS et Windows, y compris un installateur Windows Setup - Configuration par variables d’environnement pour les paramètres réseau, base de données, journalisation et sécurité GPT-Load 2.0 est une réécriture complète et ne peut pas migrer les données 1.x sur place. Il est conçu pour une instance applicative unique et ne prend pas en charge la mise à l’échelle horizontale. Les chiffres d’utilisation et de coût sont des estimations et ne doivent pas être traités comme des enregistrements financiers. Le projet est sous licence MIT et repose sur des composants open source tels que Bifrost Core, CLIProxyAPI et Lobe Icons.