Descubre proyectos de código abierto de calidad, envía proyectos de forma anónima y reclama y edita tu propio proyecto.
Un poco de curiosidad. Un mundo de código abierto.
THE FIRST COLLECTIONAgentLeak es una herramienta open-source de pruebas de privacidad para agentes de IA. Detecta fugas de datos en llamadas a herramientas, memoria y registros mediante SDK, CLI y herramientas MCP locales, ofreciendo informes redactados y puertas de CI sin dependencias en la nube.
Strix es una herramienta de pruebas de penetración de código abierto impulsada por IA que utiliza agentes autónomos para identificar, validar y solucionar vulnerabilidades de aplicaciones mediante exploits reales de prueba de concepto.
garak es un escáner de vulnerabilidades de LLM de código abierto de NVIDIA que sondea modelos de IA generativa en busca de alucinaciones, fugas de datos, inyección de prompts, toxicidad, jailbreaks y otras debilidades, similar en espíritu a nmap o Metasploit, pero para LLMs.
Plantillas en la nube listas para ejecutar para RAG, pipelines de IA y búsqueda empresarial con datos en vivo. Compatibles con Docker, sincronizadas con sistemas de archivos, Google Drive, SharePoint, S3, Kafka, PostgreSQL y APIs en tiempo real. Incluye búsqueda vectorial e híbrida integrada.
iFixAi es una herramienta de auditoría independiente para agentes de IA que evalúa si un agente cumple con KPIs empresariales y estructuras organizativas mediante un sistema de puntuación estructurado.
Agent Interlock es un marco de seguridad de IA agéntica que declara actores y límites de confianza, envuelve herramientas mediante un SDK o proxy y aplica las amenazas M1–M9 de MCP en etapas de observación, sombra y ejecución.
SUNGLASSES es una capa de inspección de entrada local y de código abierto para agentes de IA. Analiza texto, imágenes, audio, video, PDFs y códigos QR en busca de inyección de prompts, exfiltración de credenciales e inyección de comandos, y ofrece CLI, API Python, servidor MCP y un gancho de firewall para Claude Code.
