Descubre proyectos de código abierto de calidad, envía proyectos de forma anónima y reclama y edita tu propio proyecto.
Un poco de curiosidad. Un mundo de código abierto.
THE FIRST COLLECTIONAgentLeak es una herramienta open-source de pruebas de privacidad para agentes de IA. Detecta fugas de datos en llamadas a herramientas, memoria y registros mediante SDK, CLI y herramientas MCP locales, ofreciendo informes redactados y puertas de CI sin dependencias en la nube.
Strix es una herramienta de pruebas de penetración de código abierto impulsada por IA que utiliza agentes autónomos para identificar, validar y solucionar vulnerabilidades de aplicaciones mediante exploits reales de prueba de concepto.
garak es un escáner de vulnerabilidades de LLM de código abierto de NVIDIA que sondea modelos de IA generativa en busca de alucinaciones, fugas de datos, inyección de prompts, toxicidad, jailbreaks y otras debilidades, similar en espíritu a nmap o Metasploit, pero para LLMs.
Agent Interlock es un marco de seguridad de IA agéntica que declara actores y límites de confianza, envuelve herramientas mediante un SDK o proxy y aplica las amenazas M1–M9 de MCP en etapas de observación, sombra y ejecución.
