इस प्रोजेक्ट के बारे में

AgentLeak एक ओपन-सोर्स गोपनीयता परीक्षण फ्रेमवर्क है जो विशेष रूप से AI एजेंटों के लिए डिज़ाइन किया गया है। यह उस महत्वपूर्ण सुरक्षा अंतर को संबोधित करता है जहां एजेंट का अंतिम आउटपुट साफ दिखता है, लेकिन संवेदनशील डेटा आंतरिक चैनलों जैसे टूल कॉल, साझा मेमोरी, इंटर-एजेंट संदेश और लॉग के माध्यम से लीक होता है। यह उपकरण पूरी तरह से स्थानीय रूप से काम करता है, यह सुनिश्चित करता है कि कोई डेटा उपयोगकर्ता की मशीन से बाहर न जाए, और इसके मूल विश्लेषण के लिए किसी क्लाउड सेवा या LLM निर्भरता की आवश्यकता नहीं होती है। मुख्य विशेषताओं में शामिल हैं: **मल्टी-चैनल डिटेक्शन:** AgentLeak आठ सामान्यीकृत चैनलों का निरीक्षण करता है: `user_input`, `final_output`, `inter_agent_message`, `shared_memory`, `tool_call`, `tool_response`, `log`, और `generated_file`। यह व्यापक कवरेज इसे उन लीक का पता लगाने की अनुमति देता है जो केवल आउटपुट-आधारित ऑडिट से छूट जाते हैं। **निर्धारक स्कोरिंग (AgentRisk):** लीकेज को AgentRisk फ्रेमवर्क का उपयोग करके स्कोर किया जाता है, जो GDPR अनुच्छेद 9 और क्यूबेक कानून 25 पर आधारित एक गंभीरता-भारित, घनत्व-सामान्यीकृत जोखिम सूचकांक है। सिस्टम रहस्यों को चार-स्तरीय वर्गीकरण (L1-L4) में ग्रेड करता है और 0 से 1 के बीच जोखिम सूचकांक (RI) की गणना करता है, जो वैश्विक और प्रति-चैनल दोनों मेट्रिक्स प्रदान करता है। **एकीकरण और इंटरफेस:** यह उपकरण Python SDK, CLI, और स्थानीय वेब UI (React और shadcn/ui के साथ निर्मित) प्रदान करता है। यह LangChain, LangGraph, CrewAI, AutoGen, OpenAI Swarm, LlamaIndex, और अधिक सहित एजेंट फ्रेमवर्क की एक विस्तृत श्रृंखला का समर्थन करता है। एकीकरण `agentleak.watch()` संदर्भ प्रबंधक या विशिष्ट फ्रेमवर्क कॉलबैक के माध्यम से सरल बनाया गया है। **रेड टीमिंग और अनुपालन:** AgentLeak में एक रेड टीम मॉड्यूल शामिल है जिसमें प्रतिकूल परीक्षण के लिए निष्पादन योग्य प्लगइन्स हैं, जो हमलों को अवलोकन योग्य वर्गों में मैप करते हैं। यह GDPR, HIPAA, PCI-DSS, और EU AI Act जैसे 14 प्रमुख फ्रेमवर्क के लिए अनुपालन मैपिंग भी प्रदान करता है, जिससे उपयोगकर्ताओं को यह पहचानने में मदद मिलती है कि रन के दौरान कौन से नियंत्रण जोखिम में हैं। **गोपनीयता गारंटी:** डिटेक्शन और स्कोरिंग 100% स्थानीय हैं। रिपोर्ट डिफ़ॉल्ट रूप से मास्क किए गए मान दिखाती हैं, और कच्चे ट्रेस स्पष्ट रूप से ऑप्ट-इन किए जाने तक संग्रहीत नहीं होते हैं। यह उपकरण NER के लिए Presidio और प्रासंगिक लीक के लिए LLM-जज जैसे वैकल्पिक डिटेक्टरों का समर्थन करता है, लेकिन ये वैकल्पिक हैं और सख्त स्थानीय गोपनीयता बनाए रखने के लिए कॉन्फ़िगर किए जा सकते हैं।