agentleak

AgentLeak은 AI 에이전트를 위해 특별히 설계된 오픈소스 프라이버시 테스트 프레임워크입니다. 이 도구는 에이전트의 최종 출력물은 깨끗해 보이지만 내부 채널(툴 호출, 공유 메모리, 에이전트 간 메시지, 로그 등)을 통해 민감한 데이터가 유출되는 중요한 보안 공백을 해결합니다. AgentLeak은 전적으로 로컬에서 작동하므로 사용자 기기를 벗어나는 데이터가 없으며, 핵심 분석을 위해 클라우드 서비스나 LLM 의존성이 필요하지 않습니다. 주요 기능은 다음과 같습니다: **다중 채널 감지:** AgentLeak은 `user_input`, `final_output`, `inter_agent_message`, `shared_memory`, `tool_call`, `tool_response`, `log`, `generated_file`의 8개 정규화 채널을 검사합니다. 이러한 포괄적인 커버리지는 기존 출력물만 감사하는 방식으로는 놓칠 수 있는 유출을 감지할 수 있게 합니다. **결정적 점수 산정 (AgentRisk):** 유출 여부는 AgentRisk 프레임워크를 사용하여 점수화됩니다. 이는 GDPR 제9조 및 퀘벡 Law 25에 기반한 심각도 가중 및 밀도 정규화된 위험 지수입니다. 이 시스템은 비밀을 4단계 분류 체계(L1-L4)로 등급을 매기고 0에서 1 사이의 위험 지수(RI)를 계산하여 전역 및 채널별 지표를 제공합니다. **통합 및 인터페이스:** 이 도구는 Python SDK, CLI 및 로컬 웹 UI(React 및 shadcn/ui로 구축)를 제공합니다. LangChain, LangGraph, CrewAI, AutoGen, OpenAI Swarm, LlamaIndex 등 다양한 에이전트 프레임워크를 지원합니다. `agentleak.watch()` 컨텍스트 관리자나 특정 프레임워크 콜백을 통해 통합을 간소화합니다. **레드 티밍 및 컴플라이언스:** AgentLeak에는 공격을 관찰 가능한 클래스로 매핑하는 실행 가능한 플러그인을 갖춘 레드 팀 모듈이 포함되어 적대적 테스트를 수행합니다. 또한 GDPR, HIPAA, PCI-DSS, EU AI Act 등 14개의 주요 프레임워크에 대한 컴플라이언스 매핑을 제공하여 사용자가 실행 중에 어떤 통제가 위험한지 식별하도록 돕습니다. **프라이버시 보장:** 감지 및 점수 산정은 100% 로컬에서 이루어집니다. 보고서는 기본적으로 마스킹된 값을 표시하며, 명시적으로 옵트인하지 않는 한 원시 트레이스는 저장되지 않습니다. 이 도구는 NER용 Presidio나 컨텍스트 유출용 LLM judge 같은 선택적 디텍터를 지원하지만, 이들은 선택 사항이며 엄격한 로컬 프라이버시를 유지하도록 구성할 수 있습니다.