agent-governance-toolkit

Agent Governance Toolkit (AGT) est un projet open-source de Microsoft pour gouverner les agents IA autonomes en production. Son principe est que les instructions de sécurité au niveau des invites ne constituent pas une surface de contrôle fiable ; la gouvernance est donc appliquée de manière déterministe dans le code applicatif avant que l'intention d'un agent n'atteigne un outil, un canal de messagerie ou un autre agent. Capacités principales - Application des politiques : politiques YAML (avec OPA/Cedar mentionnés) évaluées à chaque appel d'outil ; les décisions peuvent autoriser, refuser ou exiger une approbation humaine. Un wrapper `govern()` en deux lignes vérifie, journalise et lève `GovernanceDenied` en cas d'actions bloquées. - Identité et confiance : identité zero-trust utilisant les concepts SPIFFE/DID/mTLS, découverte d'agents, routage et notation de confiance dans un maillage, plus chaînes de délégation. - Sandboxing d'exécution : un runtime d'agent avec quatre anneaux de privilèges, orchestration saga, contrôle de terminaison et application d'une liste de commandes interdites. - Ingénierie de fiabilité (Agent SRE) : interrupteur d'arrêt, surveillance SLO, budgets d'erreur, tests de chaos et disjoncteurs. - Audit et conformité : pistes d'audit inviolables (Merkle), registres de décisions, vérification OWASP, linting de politiques et contrôles d'intégrité via un CLI `agt`. - Passerelle de sécurité MCP : détection d'empoisonnement d'outils, surveillance de dérive, typosquatting et analyse d'instructions cachées. - Outils supplémentaires : découverte d'IA fantôme, tableau de bord de gouvernance Streamlit, évaluateur d'injection d'invites à 12 vecteurs et action GitHub de réputation des contributeurs. Packages et langages Python constitue la pile complète, distribuée sous forme de packages consolidés (core, runtime, sre, cli et un méta-package `[full]`). Des SDK existent également pour TypeScript, .NET (incluant une extension MCP), Rust et Go, couvrant les politiques de base, l'identité, la confiance et l'audit. Les surfaces développeur propriétaires incluent des plugins/installateurs pour Claude Code, GitHub Copilot CLI, Codex CLI et OpenCode. Intégrations de frameworks Middleware natif pour Microsoft Agent Framework et Semantic Kernel ; adaptateurs ou middleware pour AutoGen, LangGraph/LangChain, CrewAI, OpenAI Agents SDK, Google ADK, LlamaIndex, Haystack, Mastra et Dify ; conseils de déploiement pour Azure AI Foundry. Spécifications et normes Dix spécifications formelles RFC 2119 avec 992 tests de conformité déclarés et 29 registres de décisions architecturales. Des correspondances de conformité sont fournies pour OWASP Agentic AI Top 10, NIST AI RMF 1.0, EU AI Act, SOC 2, AARM Extended et ATF. Posture de sécurité et limites Le README indique que la gouvernance s'exécute au niveau du middleware applicatif, pas au niveau du noyau du système d'exploitation, donc le moteur de politiques et les agents partagent une frontière de processus ; il recommande d'exécuter chaque agent dans un conteneur séparé pour un isolement au niveau du système d'exploitation. Il renvoie également à un document sur les limites connues. Le projet est marqué comme aperçu public et peut introduire des changements majeurs avant la disponibilité générale. Les outils incluent CodeQL, Gitleaks, cibles de fuzzing ClusterFuzzLite, Dependabot et OpenSSF Scorecard.