Sobre el proyecto

Agent Governance Toolkit (AGT) es un proyecto de código abierto de Microsoft para gobernar agentes de IA autónomos en producción. Su premisa es que las instrucciones de seguridad a nivel de prompt no son una superficie de control fiable, por lo que la gobernanza se aplica de forma determinista en el código de la aplicación antes de que la intención de un agente llegue a una herramienta, canal de mensajes u otro agente. Capacidades principales - Aplicación de políticas: políticas YAML (con OPA/Cedar mencionados) evaluadas en cada llamada a herramienta; las decisiones pueden permitir, denegar o requerir aprobación humana. Un wrapper `govern()` de dos líneas comprueba, registra y lanza `GovernanceDenied` en acciones bloqueadas. - Identidad y confianza: identidad zero-trust usando conceptos SPIFFE/DID/mTLS, descubrimiento de agentes, enrutamiento y puntuación de confianza en una malla, además de cadenas de delegación. - Sandboxing de ejecución: un Agent Runtime con cuatro anillos de privilegios, orquestación de sagas, control de terminación y aplicación de listas de denegación de comandos. - Ingeniería de fiabilidad (Agent SRE): interruptor de apagado, monitoreo de SLO, presupuestos de errores, pruebas de caos y disyuntores. - Auditoría y cumplimiento: registros de auditoría a prueba de manipulaciones (Merkle), registros de decisiones, verificación OWASP, linting de políticas y comprobaciones de integridad mediante una CLI `agt`. - Puerta de seguridad MCP: detección de envenenamiento de herramientas, monitoreo de deriva, typosquatting y escaneo de instrucciones ocultas. - Herramientas adicionales: descubrimiento de IA en la sombra, panel de gobernanza Streamlit, evaluador de inyección de prompts de 12 vectores y una acción de GitHub de reputación de contribuyentes. Paquetes y lenguajes Python es la pila completa, distribuida como paquetes consolidados (core, runtime, sre, cli y un metapaquete `[full]`). También existen SDK para TypeScript, .NET (incluida una extensión MCP), Rust y Go, que cubren políticas centrales, identidad, confianza y auditoría. Las superficies de desarrollador de primera parte incluyen plugins/instaladores para Claude Code, GitHub Copilot CLI, Codex CLI y OpenCode. Integraciones de frameworks Middleware nativo para Microsoft Agent Framework y Semantic Kernel; adaptadores o middleware para AutoGen, LangGraph/LangChain, CrewAI, OpenAI Agents SDK, Google ADK, LlamaIndex, Haystack, Mastra y Dify; guía de despliegue para Azure AI Foundry. Especificaciones y estándares Diez especificaciones formales RFC 2119 con 992 pruebas de conformidad declaradas y 29 registros de decisiones de arquitectura. Se proporcionan mapeos de cumplimiento para OWASP Agentic AI Top 10, NIST AI RMF 1.0, Ley de IA de la UE, SOC 2, AARM Extended y ATF. Postura de seguridad y limitaciones El README indica que la gobernanza se ejecuta en la capa de middleware de la aplicación, no en el kernel del SO, por lo que el motor de políticas y los agentes comparten un límite de proceso; recomienda ejecutar cada agente en un contenedor separado para aislamiento a nivel de SO. También enlaza un documento de Limitaciones Conocidas. El proyecto está etiquetado como vista previa pública y puede introducir cambios disruptivos antes de la disponibilidad general. Las herramientas incluyen CodeQL, Gitleaks, objetivos de fuzzing ClusterFuzzLite, Dependabot y OpenSSF Scorecard.