Об этом проекте

Agent Governance Toolkit (AGT) — это проект Microsoft с открытым исходным кодом для управления автономными ИИ-агентами в производственной среде. Его исходная посылка заключается в том, что инструкции по безопасности на уровне подсказок не являются надежной поверхностью контроля, поэтому управление применяется детерминированно в коде приложения до того, как намерение агента достигнет инструмента, канала сообщений или другого агента. Основные возможности - Применение политик: политики YAML (упоминаются OPA/Cedar) оцениваются при каждом вызове инструмента; решения могут разрешать, запрещать или требовать одобрения человека. Двухстрочная обертка `govern()` проверяет, регистрирует и вызывает `GovernanceDenied` при заблокированных действиях. - Идентификация и доверие: идентификация с нулевым доверием с использованием концепций SPIFFE/DID/mTLS, обнаружение агентов, маршрутизация и оценка доверия в сети, а также цепочки делегирования. - Песочница выполнения: среда выполнения агента с четырьмя кольцами привилегий, оркестрация саг, контроль завершения и применение списка запрещенных команд. - Инженерия надежности (Agent SRE): аварийный выключатель, мониторинг SLO, бюджеты ошибок, хаос-тестирование и автоматические выключатели. - Аудит и соответствие: защищенные от взлома (Merkle) журналы аудита, записи решений, проверка OWASP, линтинг политик и проверки целостности через CLI `agt`. - Шлюз безопасности MCP: обнаружение отравления инструментов, мониторинг дрейфа, защита от тайпсквоттинга и сканирование скрытых инструкций. - Дополнительные инструменты: обнаружение теневого ИИ, панель управления Streamlit, оценщик из 12 векторов инъекций подсказок и GitHub Action для репутации контрибьюторов. Пакеты и языки Python — это полный стек, распространяемый в виде консолидированных пакетов (core, runtime, sre, cli и мета-пакет `[full]`). Также существуют SDK для TypeScript, .NET (включая расширение MCP), Rust и Go, охватывающие основные политики, идентификацию, доверие и аудит. Собственные поверхности разработчика включают плагины/установщики для Claude Code, GitHub Copilot CLI, Codex CLI и OpenCode. Интеграции с фреймворками Встроенное промежуточное ПО для Microsoft Agent Framework и Semantic Kernel; адаптеры или промежуточное ПО для AutoGen, LangGraph/LangChain, CrewAI, OpenAI Agents SDK, Google ADK, LlamaIndex, Haystack, Mastra и Dify; рекомендации по развертыванию для Azure AI Foundry. Спецификации и стандарты Десять формальных спецификаций RFC 2119 с заявленными 992 тестами соответствия и 29 записями архитектурных решений. Предоставлены карты соответствия для OWASP Agentic AI Top 10, NIST AI RMF 1.0, EU AI Act, SOC 2, AARM Extended и ATF. Позиция безопасности и ограничения В README указано, что управление выполняется на уровне промежуточного ПО приложения, а не ядра ОС, поэтому движок политик и агенты разделяют границы процесса; рекомендуется запускать каждого агента в отдельном контейнере для изоляции на уровне ОС. Также приводится ссылка на документ «Известные ограничения». Проект помечен как публичная предварительная версия и может содержать критические изменения до общего выпуска. Инструменты включают CodeQL, Gitleaks, цели фаззинга ClusterFuzzLite, Dependabot и OpenSSF Scorecard.