Находите качественные проекты с открытым исходным кодом, отправляйте проекты анонимно, заявляйте права на свои проекты и редактируйте их.
Немного любопытства. Мир открытого кода.
THE FIRST COLLECTIONAgentLeak — это инструмент с открытым исходным кодом для проверки конфиденциальности ИИ-агентов. Он обнаруживает утечки данных в вызовах инструментов, памяти и журналах с помощью локального Python SDK, CLI и MCP-инструментов, предоставляя отчеты с редактированием и CI-гейты без облачных зависимостей.
Strix — это инструмент для тестирования на проникновение с открытым исходным кодом на базе ИИ, который использует автономных агентов для выявления, проверки и исправления уязвимостей приложений с помощью реальных PoC-эксплойтов.
garak — это открытый сканер уязвимостей LLM от NVIDIA, который проверяет генеративные модели ИИ на галлюцинации, утечку данных, промпт-инъекции, токсичность, джейлбрейки и другие слабости, по духу похожий на nmap или Metasploit, но для LLM.
Agent Interlock — это фреймворк безопасности для агентного ИИ, который определяет акторов и границы доверия, оборачивает инструменты через SDK или прокси и предотвращает угрозы MCP M1–M9, фиксируя все вердикты в неизменяемом реестре.
