Sobre o projeto

O LLM Proxy é uma ferramenta de depuração local que se posiciona entre as aplicações e a OpenAI API para registrar e inspecionar o tráfego. Ele permite que os desenvolvedores monitorem prompts exatos, uso de tokens, tempo de resposta e erros em tempo real. As principais capacidades incluem: - Registro de Requisições: Captura todos os endpoints /v1/*, incluindo respostas de streaming, e os salva no disco em formato JSONL. - Web UI: Fornece uma interface baseada em navegador para navegar no histórico de requisições, filtrar por endpoint ou modelo e inspecionar os corpos completos de requisição/resposta. - Configuração: Suporta portas personalizadas, substituições de chave de API e níveis de log configuráveis via arquivo de configuração ou variáveis de ambiente. - Segurança: Sanitiza chaves de API nos logs (mostrando apenas os últimos 4 caracteres) e vincula-se ao localhost por padrão. - Integração: Compatível com qualquer cliente ou SDK compatível com a OpenAI, alterando a URL base para o endereço do proxy local.