agentleak

AgentLeak est un framework open-source de test de confidentialité conçu spécifiquement pour les agents IA. Il comble la lacune de sécurité critique où la sortie finale d'un agent semble propre, mais où des données sensibles fuient via des canaux internes tels que les appels d'outils, la mémoire partagée, les messages inter-agents et les journaux. L'outil fonctionne entièrement en local, garantissant qu'aucune donnée ne quitte la machine de l'utilisateur, et ne nécessite aucun service cloud ni dépendance LLM pour son analyse principale. Les fonctionnalités clés incluent : **Détection multi-canaux :** AgentLeak inspecte huit canaux normalisés : `user_input`, `final_output`, `inter_agent_message`, `shared_memory`, `tool_call`, `tool_response`, `log` et `generated_file`. Cette couverture exhaustive permet de détecter des fuites que les audits traditionnels basés uniquement sur la sortie manquent. **Score déterministe (AgentRisk) :** La fuite est notée à l'aide du framework AgentRisk, un indice de risque pondéré par sévérité et normalisé par densité, fondé sur l'article 9 du RGPD et la loi québécoise 25. Le système classe les secrets selon une taxonomie à quatre niveaux (L1-L4) et calcule un indice de risque (RI) entre 0 et 1, fournissant des métriques globales et par canal. **Intégrations et interfaces :** L'outil propose un SDK Python, une CLI et une interface web locale (construite avec React et shadcn/ui). Il prend en charge une large gamme de frameworks d'agents, notamment LangChain, LangGraph, CrewAI, AutoGen, OpenAI Swarm, LlamaIndex, et plus. L'intégration est simplifiée via un gestionnaire de contexte `agentleak.watch()` ou des callbacks spécifiques au framework. **Red Teaming et conformité :** AgentLeak inclut un module Red Team avec des plugins exécutables pour les tests adverses, mappant les attaques aux classes observables. Il fournit également une cartographie de conformité vers 14 frameworks majeurs tels que le RGPD, la HIPAA, la PCI-DSS et l'AI Act de l'UE, aidant les utilisateurs à identifier quels contrôles sont à risque lors d'une exécution. **Garanties de confidentialité :** La détection et la notation sont 100% locales. Les rapports affichent des valeurs masquées par défaut, et les traces brutes ne sont pas stockées sauf si l'utilisateur y opte explicitement. L'outil prend en charge des détecteurs optionnels comme Presidio pour la NER et LLM-judge pour les fuites contextuelles, mais ceux-ci restent optionnels et peuvent être configurés pour maintenir une confidentialité locale stricte.