subrelay

subrelay é um gateway de retransmissão leve projetado para gerenciar múltiplas credenciais das APIs OpenAI e Anthropic. Ele funciona como uma camada intermediária entre usuários e provedores upstream, oferecendo recursos como seleção aleatória ponderada, failover automático e retardo de limite de taxa. Ao contrário de alternativas mais pesadas, utiliza SQLite para armazenamento e não requer dependências externas como Redis ou PostgreSQL. Principais capacidades incluem: - Compatibilidade de Protocolo: Suporta tanto as APIs OpenAI Chat Completions quanto Anthropic Messages, com passagem de bytes nível de byte quando os protocolos coincidem para preservar chamadas de ferramentas e campos específicos do provedor. - Gerenciamento de Credenciais: Manipula várias chaves com aplicação de orçamento diário, limites de concorrência e resfriamento automático em erros 429 ou 5xx. - Integração com a Nova API: Possui o comando sync-newapi para reconciliar configurações locais com canais da New API, suportando execuções a seco, poda e fluxos de trabalho GitOps. - Observabilidade: Fornece métricas Prometheus, verificações de saúde e uma ferramenta CLI doctor para sondar a saúde das credenciais. - Amigável ao Desenvolvedor: Configuração YAML simples com interpolação de variáveis de ambiente e modelo de implantação de processo único via Python ou Docker.