agentleak

AgentLeak é um framework de teste de privacidade de código aberto projetado especificamente para agentes de IA. Ele aborda a lacuna crítica de segurança onde a saída final de um agente parece limpa, mas dados sensíveis vazam por canais internos, como chamadas de ferramentas, memória compartilhada, mensagens entre agentes e logs. A ferramenta opera inteiramente de forma local, garantindo que nenhum dado saia da máquina do usuário, e não requer serviços em nuvem ou dependências de LLM para sua análise principal. Os principais recursos incluem: **Detecção Multicanal:** O AgentLeak inspeciona oito canais normalizados: `user_input`, `final_output`, `inter_agent_message`, `shared_memory`, `tool_call`, `tool_response`, `log` e `generated_file`. Essa cobertura abrangente permite detectar vazamentos que auditorias tradicionais baseadas apenas na saída não percebem. **Pontuação Determinística (AgentRisk):** O vazamento é pontuado usando o framework AgentRisk, um Índice de Risco ponderado por gravidade e normalizado por densidade, fundamentado no GDPR Artigo 9 e na Lei 25 de Québec. O sistema classifica segredos em uma taxonomia de quatro níveis (L1-L4) e calcula um Índice de Risco (RI) entre 0 e 1, fornecendo métricas globais e por canal. **Integrações e Interfaces:** A ferramenta oferece um SDK Python, CLI e interface web local (construída com React e shadcn/ui). Suporta uma ampla gama de frameworks de agentes, incluindo LangChain, LangGraph, CrewAI, AutoGen, OpenAI Swarm, LlamaIndex e outros. A integração é simplificada via gerenciador de contexto `agentleak.watch()` ou callbacks específicos de frameworks. **Red Teaming e Conformidade:** O AgentLeak inclui um módulo Red Team com plugins executáveis para testes adversariais, mapeando ataques para classes observáveis. Também fornece mapeamento de conformidade para 14 frameworks principais, como GDPR, HIPAA, PCI-DSS e a Lei de IA da UE, ajudando os usuários a identificar quais controles estão em risco durante uma execução. **Garantias de Privacidade:** A detecção e a pontuação são 100% locais. Os relatórios mostram valores mascarados por padrão, e os rastros brutos não são armazenados a menos que o usuário opte explicitamente por isso. A ferramenta suporta detectores opcionais, como Presidio para NER e LLM-judge para vazamentos contextuais, mas esses são opcionais e podem ser configurados para manter privacidade local estrita.