À propos du projet

LocalRouter est une passerelle proxy d'API IA auto-hébergée conçue pour s'exécuter entièrement sur votre machine locale. Elle permet aux développeurs d'unifier l'accès à plusieurs fournisseurs d'IA — notamment OpenAI, Anthropic, Azure, Ollama et d'autres — derrière un point de terminaison unique et cohérent. Cela élimine la nécessité de modifier le code de l'application lors du changement de fournisseur ou de modèle. Les fonctionnalités clés incluent l'alias de modèle (par exemple, mapper 'gpt-4o' vers n'importe quel fournisseur amont), la commutation en un clic entre les flux amont actifs, la journalisation complète des requêtes/réponses (y compris le contenu SSE en streaming), le suivi des coûts en temps réel basé sur une tarification configurable par modèle, et des analyses d'utilisation détaillées avec les tendances de jetons et des ventilations par source, entrée ou modèle. L'outil prend en charge le contrôle d'accès via des jetons d'authentification optionnels et propose des applications de bureau (macOS, Windows, Linux) ainsi que des modes serveur. Toutes les données sont stockées localement dans une base de données SQLite, garantissant la confidentialité et le fonctionnement hors ligne. Les développeurs peuvent l'intégrer parfaitement aux SDK OpenAI existants en changeant simplement l'URL de base. Le tableau de bord permet une gestion visuelle des sources, des entrées, des journaux et des statistiques, rendant le débogage et la surveillance simples. Les journaux sont limités à 10 000 entrées avec un élagage automatique des enregistrements non étoilés, tandis que les journaux étoilés sont conservés indéfiniment. La configuration est simple via un fichier .env pour le port et le chemin de la base de données. Sous licence MIT.