프로젝트 소개

Agent Governance Toolkit(AGT)은 프로덕션 환경에서 자율 AI 에이전트를 거버넌스하기 위한 Microsoft 오픈소스 프로젝트입니다. 그 전제는 프롬프트 수준의 안전 지침이 신뢰할 수 있는 제어 표면이 아니라는 것이며, 따라서 거버넌스는 에이전트의 의도가 도구, 메시지 채널 또는 다른 에이전트에 도달하기 전에 애플리케이션 코드에서 결정론적으로 시행됩니다. 핵심 기능 - 정책 시행: 모든 도구 호출에서 평가되는 YAML 정책(OPA/Cedar 언급); 결정은 허용, 거부 또는 인간 승인 요구가 가능합니다. 두 줄짜리 `govern()` 래퍼는 차단된 작업에 대해 확인, 로그 기록 및 `GovernanceDenied` 발생시킵니다. - 신원 및 신뢰: SPIFFE/DID/mTLS 개념을 사용한 제로 트러스트 신원, 에이전트 검색, 라우팅 및 메시 전반의 신뢰 점수 산정, 그리고 위임 체인. - 실행 샌드박싱: 네 가지 권한 링, 사가 오케스트레이션, 종료 제어 및 명령 거부 목록 시행을 갖춘 Agent Runtime. - 신뢰성 엔지니어링(Agent SRE): 킬 스위치, SLO 모니터링, 오류 예산, 카오스 테스트 및 회로 차단기. - 감사 및 규정 준수: 변조 방지(Merkle) 감사 추적, 결정 기록, OWASP 검증, 정책 린팅 및 `agt` CLI를 통한 무결성 검사. - MCP 보안 게이트웨이: 도구 중독 탐지, 드리프트 모니터링, 타이포스쿼팅 및 숨겨진 지침 스캔. - 추가 도구: 섀도 AI 검색, Streamlit 거버넌스 대시보드, 12개 벡터 프롬프트 주입 평가기, 기여자 평판 GitHub Action. 패키지 및 언어 Python은 전체 스택이며 통합 패키지(core, runtime, sre, cli 및 `[full]` 메타 패키지)로 배포됩니다. SDK는 TypeScript, .NET(MCP 확장 포함), Rust 및 Go용으로도 존재하며 핵심 정책, 신원, 신뢰 및 감사를 포괄합니다. 자사 개발자 표면에는 Claude Code, GitHub Copilot CLI, Codex CLI 및 OpenCode용 플러그인/설치 프로그램이 포함됩니다. 프레임워크 통합 Microsoft Agent Framework 및 Semantic Kernel용 네이티브 미들웨어; AutoGen, LangGraph/LangChain, CrewAI, OpenAI Agents SDK, Google ADK, LlamaIndex, Haystack, Mastra 및 Dify용 어댑터 또는 미들웨어; Azure AI Foundry 배포 지침. 사양 및 표준 992개의 적합성 테스트와 29개의 아키텍처 결정 기록이 명시된 10개의 공식 RFC 2119 사양. OWASP Agentic AI Top 10, NIST AI RMF 1.0, EU AI Act, SOC 2, AARM 및 ATF에 대한 규정 준수 매핑이 제공됩니다. 보안 태세 및 한계 README는 거버넌스가 OS 커널이 아닌 애플리케이션 미들웨어 계층에서 실행되므로 정책 엔진과 에이전트가 프로세스 경계를 공유한다고 명시하며, OS 수준 격리를 위해 각 에이전트를 별도 컨테이너에서 실행할 것을 권장합니다. 또한 Known Limitations 문서를 링크합니다. 이 프로젝트는 퍼블릭 프리뷰로 표시되어 있으며 일반 제공 전에 호환성을 깨는 변경이 도입될 수 있습니다. 도구에는 CodeQL, Gitleaks, ClusterFuzzLite 퍼즈 대상, Dependabot 및 OpenSSF Scorecard가 포함됩니다.