agentleak

AgentLeak es un framework open-source de pruebas de privacidad diseñado específicamente para agentes de IA. Aborda la brecha de seguridad crítica donde la salida final de un agente parece limpia, pero los datos sensibles se filtran a través de canales internos como llamadas a herramientas, memoria compartida, mensajes entre agentes y registros. La herramienta opera completamente de forma local, garantizando que ningún dato abandone la máquina del usuario, y no requiere servicios en la nube ni dependencias de LLM para su análisis central. Características principales: **Detección Multicanal:** AgentLeak inspecciona ocho canales normalizados: `user_input`, `final_output`, `inter_agent_message`, `shared_memory`, `tool_call`, `tool_response`, `log` y `generated_file`. Esta cobertura integral permite detectar fugas que las auditorías tradicionales centradas solo en la salida pasan por alto. **Puntuación Determinista (AgentRisk):** Las fugas se puntúan utilizando el framework AgentRisk, un Índice de Riesgo ponderado por severidad y normalizado por densidad, basado en el Artículo 9 del GDPR y la Ley 25 de Quebec. El sistema califica los secretos en una taxonomía de cuatro niveles (L1-L4) y calcula un Índice de Riesgo (RI) entre 0 y 1, proporcionando métricas globales y por canal. **Integraciones e Interfaces:** La herramienta ofrece un SDK de Python, CLI y una interfaz web local (construida con React y shadcn/ui). Soporta una amplia gama de frameworks de agentes, incluyendo LangChain, LangGraph, CrewAI, AutoGen, OpenAI Swarm, LlamaIndex y más. La integración se simplifica mediante un gestor de contexto `agentleak.watch()` o callbacks específicos de framework. **Red Teaming y Cumplimiento:** AgentLeak incluye un módulo de Red Team con plugins ejecutables para pruebas adversarias, mapeando ataques a clases observables. También proporciona mapeo de cumplimiento a 14 marcos principales como GDPR, HIPAA, PCI-DSS y la Ley de IA de la UE, ayudando a los usuarios a identificar qué controles están en riesgo durante una ejecución. **Garantías de Privacidad:** La detección y puntuación son 100% locales. Los informes muestran valores enmascarados por defecto, y los rastros crudos no se almacenan a menos que se opte explícitamente. La herramienta admite detectores opcionales como Presidio para NER y LLM-judge para fugas contextuales, pero estos son opcionales y pueden configurarse para mantener una privacidad local estricta.