ওপেন সোর্স। নতুন সম্ভাবনা।

garak হলো NVIDIA-এর একটি ওপেন-সোর্স LLM দুর্বলতা স্ক্যানার, যা জেনারেটিভ AI মডেলগুলোতে হ্যালুসিনেশন, ডেটা লিকেজ, প্রম্পট ইনজেকশন, টক্সিসিটি, জেলব্রেক এবং অন্যান্য দুর্বলতা খুঁজে বের করে; এটি nmap বা Metasploit-এর মতো, তবে LLM-এর জন্য।