garakNVIDIA
NUEVOgarak es un escáner de vulnerabilidades de LLM de código abierto de NVIDIA que sondea modelos de IA generativa en busca de alucinaciones, fugas de datos, inyección de prompts, toxicidad, jailbreaks y otras debilidades, similar en espíritu a nmap o Metasploit, pero para LLMs.