这个项目能做什么
Agent治理工具包(AGT)是微软的一个开源项目,用于在生产环境中治理自主AI代理。其前提是提示级别的安全指令不是可靠的控制面,因此治理在应用代码中确定性执行,在代理意图到达工具、消息通道或其他代理之前实施。
核心能力
- 策略执行:YAML策略(提及OPA/Cedar)在每次工具调用时评估;决策可允许、拒绝或要求人工批准。一个两行的`govern()`包装器检查、记录并在阻止操作时抛出`GovernanceDenied`异常。
- 身份与信任:使用SPIFFE/DID/mTLS概念实现零信任身份,代理发现、路由和跨网格信任评分,以及委托链。
- 执行沙箱:Agent运行时具有四个权限环、saga编排、终止控制和命令拒绝列表执行。
- 可靠性工程(Agent SRE):紧急停止开关、SLO监控、错误预算、混沌测试和断路器。
- 审计与合规:防篡改(Merkle)审计跟踪、决策记录、OWASP验证、策略linting和通过`agt` CLI进行完整性检查。
- MCP安全网关:工具投毒检测、漂移监控、域名仿冒和隐藏指令扫描。
- 其他工具:影子AI发现、Streamlit治理仪表板、12向量提示注入评估器,以及贡献者声誉GitHub Action。
包和语言
Python是完整技术栈,以整合包形式分发(core、runtime、sre、cli和`[full]`元包)。SDK也适用于TypeScript、.NET(包括MCP扩展)、Rust和Go,涵盖核心策略、身份、信任和审计。第一方开发者界面包括Claude Code、GitHub Copilot CLI、Codex CLI和OpenCode的插件/安装程序。
框架集成
为Microsoft Agent Framework和Semantic Kernel提供原生中间件;为AutoGen、LangGraph/LangChain、CrewAI、OpenAI Agents SDK、Google ADK、LlamaIndex、Haystack、Mastra和Dify提供适配器或中间件;为Azure AI Foundry提供部署指南。
规范和标准
十项正式的RFC 2119规范,声明有992项一致性测试和29项架构决策记录。提供对OWASP Agentic AI Top 10、NIST AI RMF 1.0、EU AI Act、SOC 2、AARM Extended和ATF的合规映射。
安全态势和限制
README声明治理在应用中间件层运行,而非操作系统内核,因此策略引擎和代理共享进程边界;建议将每个代理运行在单独的容器中以实现操作系统级隔离。它还链接了一份已知限制文档。该项目标记为公开预览,可能在正式发布前引入破坏性变更。工具包括CodeQL、Gitleaks、ClusterFuzzLite模糊测试目标、Dependabot和OpenSSF Scorecard。
评论
0 评分人数达到10人后显示
登录后参与讨论。