Sobre o projeto

O Multi-Provider AI API Proxy é um servidor proxy HTTP projetado para atuar como um substituto direto para a Anthropic Claude API. Ele permite que os usuários mantenham o formato da API da Anthropic enquanto roteiam requisições para vários provedores, como Groq, OpenRouter e Portkey. As principais capacidades incluem: - **Roteamento Multi-Provedor**: Suporta roteamento via Groq, OpenRouter e Portkey, com a capacidade de selecionar provedores por requisição através de parâmetros de consulta ou definir um padrão global. - **Tradução de API**: Converte perfeitamente entre os formatos Anthropic e OpenAI/Groq, incluindo suporte para tool calling e blocos de conteúdo complexos. - **Gerenciamento de Chaves**: Implementa rotação round-robin entre múltiplas chaves de API (até 10 por provedor) para otimizar o throughput e evitar limites. - **Limitação de Taxa Inteligente**: Detecta limites de taxa específicos do provedor (especificamente analisando mensagens de erro do Groq) e gerencia automaticamente a recuperação de chaves e tempos de espera. - **Observabilidade**: Fornece um endpoint de status em tempo real para monitorar a saúde das chaves, estatísticas de requisições e logging persistente detalhado com vários níveis de log. - **Integração**: Compatível com clientes compatíveis com a Anthropic, incluindo Claude Code, Cursor IDE e Continue, via configuração de variável de ambiente (`ANTHROPIC_BASE_URL`).