Находите качественные проекты с открытым исходным кодом, отправляйте проекты анонимно, заявляйте права на свои проекты и редактируйте их.
Немного любопытства. Мир открытого кода.
THE FIRST COLLECTIONAgent Interlock — это фреймворк безопасности для агентного ИИ, который определяет акторов и границы доверия, оборачивает инструменты через SDK или прокси и предотвращает угрозы MCP M1–M9, фиксируя все вердикты в неизменяемом реестре.
SUNGLASSES — это open-source локальный слой инспекции ввода для ИИ-агентов. Сканирует текст, изображения, аудио, видео, PDF и QR-коды на предмет инъекций промптов, утечки учётных данных и командных инъекций. Предоставляет CLI, Python API, MCP-сервер и хук фаервола для Claude Code.
AgentLeak — это инструмент с открытым исходным кодом для проверки конфиденциальности ИИ-агентов. Он обнаруживает утечки данных в вызовах инструментов, памяти и журналах с помощью локального Python SDK, CLI и MCP-инструментов, предоставляя отчеты с редактированием и CI-гейты без облачных зависимостей.
Strix — это инструмент для тестирования на проникновение с открытым исходным кодом на базе ИИ, который использует автономных агентов для выявления, проверки и исправления уязвимостей приложений с помощью реальных PoC-эксплойтов.
garak — это открытый сканер уязвимостей LLM от NVIDIA, который проверяет генеративные модели ИИ на галлюцинации, утечку данных, промпт-инъекции, токсичность, джейлбрейки и другие слабости, по духу похожий на nmap или Metasploit, но для LLM.
Готовые шаблоны для RAG, AI-пайплайнов и корпоративного поиска с синхронизацией данных. Docker-совместимые решения, интеграция с файловыми системами, Google Drive, SharePoint, S3, Kafka, PostgreSQL и реальными API. Встроенный векторный и гибридный поиск.
iFixAi — инструмент независимого аудита AI-агентов, оценивающий соответствие агента бизнес-KPI и организационным структурам через структурированную систему оценивания.
