اوپن سورس۔ نئے امکانات۔

garak ایک اوپن سورس LLM کمزوری اسکینر ہے جو NVIDIA نے تیار کیا ہے، جو جنریٹو AI ماڈلز میں ہیلوسینیشن، ڈیٹا لیک، پرامپٹ انجیکشن، زہریلے پن، جیل بریک اور دیگر کمزوریوں کی جانچ کرتا ہے، بالکل nmap یا Metasploit کی طرح لیکن LLMs کے لیے۔