Открытый код. Новые возможности.

garak — это открытый сканер уязвимостей LLM от NVIDIA, который проверяет генеративные модели ИИ на галлюцинации, утечку данных, промпт-инъекции, токсичность, джейлбрейки и другие слабости, по духу похожий на nmap или Metasploit, но для LLM.