ओपन सोर्स। नई संभावनाएँ।

AgentLeak एक ओपन-सोर्स गोपनीयता परीक्षण उपकरण है जो AI एजेंटों के लिए है। यह टूल कॉल, मेमोरी और लॉग में डेटा लीक का पता लगाता है, स्थानीय Python SDK, CLI और MCP टूल्स का उपयोग करके, बिना क्लाउड निर्भरता के रिडैक्टेड रिपोर्ट और CI गेट्स प्रदान करता है।

Strix एक ओपन-सोर्स AI-संचालित पेनिट्रेशन टेस्टिंग टूल है जो वास्तविक प्रूफ-ऑफ-कॉन्सेप्ट एक्सप्लॉइट्स के माध्यम से एप्लिकेशन कमजोरियों की पहचान करने, उन्हें सत्यापित करने और ठीक करने के लिए ऑटोनॉमस एजेंटों का उपयोग करता है।

garak, NVIDIA का एक ओपन-सोर्स LLM भेद्यता स्कैनर है जो जनरेटिव AI मॉडलों में भ्रम, डेटा लीकेज, प्रॉम्प्ट इंजेक्शन, विषाक्तता, जेलब्रेक और अन्य कमजोरियों की जांच करता है, जो भावना में nmap या Metasploit जैसा है लेकिन LLM के लिए।

Agent Interlock एक एजेंटिक AI सुरक्षा फ्रेमवर्क है जो AI एजेंट सिस्टम के एक्टर्स और ट्रस्ट बाउंड्रीज़ को परिभाषित करता है, टूल्स को SDK या प्रॉक्सी के माध्यम से रैप करता है, और OBSERVE, SHADOW और ENFORCE चरणों में MCP टूल खतरों M1-M9 को लागू करता है।