À propos du projet
OpenProxy est un service auto-hébergé qui agit comme un proxy API pour plusieurs fournisseurs d'IA tels qu'OpenAI et Anthropic. Il expose une interface API unifiée compatible avec les endpoints OpenAI `/v1/chat/completions` et Anthropic `/v1/messages`. Le système prend en charge la bascule multi-fournisseurs avec équilibrage de charge pondéré et basculement automatique en cas d'échec. Il permet la rotation multi-clés par fournisseur pour éviter les limites de débit en dépriorisant les combinaisons de clés récemment utilisées. Les administrateurs peuvent gérer les clés API avec des quotas, une expiration et des contrôles d'accès aux modèles. L'usage est suivi par requête, incluant le coût, le temps de réponse et l'attribution au fournisseur. Un panneau d'administration web permet la gestion des modèles, fournisseurs, utilisateurs et commandes, tandis que les locataires bénéficient de tableaux de bord affichant des graphiques d'usage, des soldes et l'historique des requêtes. Les clés API des fournisseurs sont stockées de manière chiffrée via RSA. Les options d'authentification incluent email/mot de passe, OTP par téléphone, GitHub et Google via better-auth. L'utilisation exemple consiste à envoyer des requêtes standard au format OpenAI au point de terminaison du proxy avec un jeton bearer. Licence MIT.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.