Découvrez des projets open source de qualité, soumettez des projets anonymement, puis revendiquez et éditez votre propre projet.
Un peu de curiosité. Un monde de code ouvert.
THE FIRST COLLECTIONAgentLeak est un outil open-source de test de confidentialité pour agents IA. Il détecte les fuites de données via les appels d'outils, la mémoire et les journaux, avec un SDK Python local, une CLI et des outils MCP, offrant des rapports masqués et des portes CI sans dépendances cloud.
Strix est un outil de test d'intrusion open-source propulsé par l'IA qui utilise des agents autonomes pour identifier, valider et corriger les vulnérabilités d'application via de réels exploits de preuve de concept.
Garak, un scanner de vulnérabilités open-source pour l'IA générative développé par NVIDIA, teste les grands modèles linguistiques pour détecter des failles telles que les hallucinations, les fuites de données, l'injection de prompts et la toxicité, dans un esprit similaire à nmap ou Metasploit.
Templates cloud prêts à l'emploi pour RAG, pipelines IA et recherche d'entreprise avec données en direct. Compatible Docker, synchronisé avec les systèmes de fichiers, Google Drive, SharePoint, S3, Kafka, PostgreSQL et APIs temps réel. Inclut la recherche vectorielle et hybride intégrée.
iFixAi est un outil d'audit indépendant pour agents IA qui évalue si un agent respecte les KPIs métier et les structures organisationnelles grâce à un système de notation structuré.
Agent Interlock est un framework de sécurité IA agentique qui définit les acteurs et les limites de confiance, encapsule les outils via un SDK ou proxy, et applique les menaces MCP M1–M9 via un registre immuable.
SUNGLASSES est une couche d'inspection d'entrée locale, open-source, destinée aux agents IA. Elle analyse le texte, les images, l'audio, la vidéo, les PDF et les codes QR afin de détecter l'injection de prompt, l'exfiltration d'identifiants et l'injection de commande, et propose une CLI, une API Python, un serveur MCP et un hook de pare-feu Claude Code.
