オープンソース。新しい可能性。

AgentLeakは、AIエージェント向けのオープンソースのプライバシーテストツールです。ツール呼び出し、メモリ、ログ全体でのデータ漏洩を、ローカルPython SDK、CLI、MCPツールを使って検出し、編集済みレポートとCIゲートを提供します。クラウド依存はありません。

Strixは、自律型エージェントを使用してアプリケーションの脆弱性を特定、検証し、実際のPoCエクスプロイトを通じて修正を行うオープンソースのAI駆動型ペネトレーションテストツールです。

garakは、NVIDIAが開発したオープンソースのLLM脆弱性スキャナで、幻覚、データ漏洩、プロンプトインジェクション、有害性、脱獄などの弱点を探る。nmapやMetasploitに似た役割をLLM向けに果たす。

Pathway LLM App offers AI pipeline templates for scalable RAG and enterprise search, auto-syncing with multiple data sources. Docker-based with built-in vector and hybrid search.

iFixAiはAIエージェントの独立監査ツールで、Fabrication・Manipulationなど5つの柱に基づいてエージェントがビジネスKPIと組織構造に準拠しているかを構造化スコアリングシステムで評価する。

Agent Interlockは、AIエージェントシステムの構成要素と信頼境界を定義し、SDKやプロキシを通じてツールをラップすることで、MCPツールの脅威M1〜M9を監視・シャドウ・強制の段階を経て排除し、すべての判定を追記専用レジャーに記録するエージェント向けAIセキュリティフレームワークです。

SUNGLASSESは、AIエージェント向けのローカルかつオープンソースの入力検査レイヤーです。テキスト、画像、音声、動画、PDF、QRコードを対象に、プロンプトインジェクション、認証情報の漏洩、コマンドインジェクションをスキャンし、CLI、Python API、MCPサーバー、Claude Codeファイアウォールフックを提供します。