프로젝트 소개

OWASP Agent Memory Guard(AMG)는 공식적으로 인정된 OWASP Incubator Project로, AI 에이전트의 메모리 포이즈닝에 대한 런타임 방어를 제공합니다. 에이전트와 메모리 저장소 사이에 위치하여 모든 쓰기 작업을 탐지기 파이프라인과 선언적 정책 엔진을 통해 검사함으로써 OWASP ASI06(메모리 및 컨텍스트 포이즈닝) 위협 범주를 해결합니다. 이 라이브러리는 여러 핵심 기능을 제공합니다. 불변 키의 변조를 표시하는 SHA-256 무결성 기준선, 프롬프트 인젝션·비밀/PII 유출·보호 키 수정·크기 이상·자기 강화 루프에 대한 내장 탐지기, 탐지 결과를 허용·마스킹·격리·차단 등의 조치에 매핑하는 YAML 정의 정책, 롤백을 위한 특정 시점 스냅샷이 포함된 구조화된 SecurityEvent 포렌식, SIEM 상관 분석을 위한 소스 클래스 출처 추적 등이 있습니다. AMG는 LangChain(GuardedChatMessageHistory 및 모델 입력·출력·도구 출력을 보호하는 미들웨어 패키지 포함), OpenAI Agents SDK, AutoGen, mem0, CrewAI용 통합 기능을 제공합니다. API 키나 외부 호출 없이 로컬에서 실행되며, 중앙값 지연 시간은 59마이크로초로 보고됩니다. 이 프로젝트에는 프레임워크 중립적인 스코어보드인 Agent Memory Security Benchmark(AMSB)도 포함되어 있으며, 이는 페이로드가 컨텍스트 재설정 후에도 살아남는지 여부를 포함한 전체 포이즈닝 수명 주기에 대해 모든 메모리 시스템을 평가합니다. AMG는 다른 항목과 동일한 어댑터와 코퍼스를 통해 자체적으로 평가를 받습니다. 55개의 실제 공격 페이로드를 대상으로 한 공개 벤치마크 결과, 프롬프트 인젝션, 보호 키 변조, 민감 데이터 유출, 크기 이상의 네 가지 위협 범주에서 92.5%의 탐지율, 100%의 정밀도, 0%의 오탐률, 0.961의 F1 점수를 보여줍니다. 이 프로젝트는 Apache-2.0 라이선스로 제공되며, Vaishnavi Gudur가 창설 및 주도하고 Anshul Rajkumar가 공동 리더로 참여하고 있습니다. MITRE ATLAS Memory Hardening 완화 조치에서 메모리 강화 제어의 오픈소스 구현으로 참조됩니다.