Sobre o projeto
LocalRouter é um gateway de proxy de API de IA auto-hospedado, projetado para rodar inteiramente em sua máquina local. Ele permite que desenvolvedores unifiquem o acesso a múltiplos provedores de IA — incluindo OpenAI, Anthropic, Azure, Ollama e outros — atrás de um único endpoint consistente. Isso elimina a necessidade de modificar o código da aplicação ao trocar de provedores ou modelos. Os principais recursos incluem aliasing de modelos (por exemplo, mapear 'gpt-4o' para qualquer provedor upstream), troca com um clique entre upstreams ativos, log completo de requisições/respostas (incluindo conteúdo SSE de streaming), rastreamento de custos em tempo real baseado em preços configuráveis por modelo e análises detalhadas de uso com tendências de tokens e detalhamentos por fonte, entrada ou modelo. A ferramenta suporta controle de acesso via tokens de autenticação opcionais e oferece tanto aplicativos de desktop (macOS, Windows, Linux) quanto modos de servidor. Todos os dados são armazenados localmente em um banco de dados SQLite, garantindo privacidade e operação offline. Desenvolvedores podem integrá-lo perfeitamente com SDKs da OpenAI existentes, apenas alterando a base URL. O dashboard fornece gerenciamento visual de fontes, entradas, logs e estatísticas, tornando a depuração e o monitoramento simples. Os logs são limitados a 10.000 entradas com poda automática de registros não favoritados, enquanto logs favoritados são preservados indefinidamente. A configuração é simples via arquivo .env para porta e caminho do banco de dados. Licenciado sob MIT.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.