اوپن سورس۔ نئے امکانات۔

ایک اوپن سورس مائن کرافٹ سرور لوڈ ٹیسٹر جو بوٹس کے جھنڈ کو جوڑتا ہے اور سرور کے حقیقی اثرات جیسے تخمینی TPS، لیٹنسی، تھرو پٹ اور کک وجوہات کی رپورٹ دیتا ہے۔ CLI، ویب GUI، کنٹرول پلین API، ڈیبگ کنسول اور پروگرام ایبل بوٹس شامل ہیں۔ صرف مجاز جانچ۔

oha ایک Rust میں لکھا گیا چھوٹا HTTP لوڈ جنریٹر ہے جو ویب ایپلی کیشن کی کارکردگی کی نگرانی کے لیے ریئل ٹائم TUI فراہم کرتا ہے۔

AI Infra Bench فرنٹیئر ماڈلز کو حقیقی AI انفراسٹرکچر انجینئرنگ کے کاموں پر پرکھتا ہے، vLLM سے شروع کرتے ہوئے CPU اور GPU کے کاموں بشمول بگز، فیچرز، کارکردگی میں تبدیلیاں، ری فیکٹرنگ اور ٹیسٹ۔

HermesMade پیشکش کرتا ہے چھ CLI ٹولز جو عام AI صارف کے درد کے نکات کو حل کرتے ہیں: سنسرشپ کے خطرے کا تجزیہ، ماڈل کوالٹی کی نگرانی، API لاگت کی اصلاح، مقامی LLM تعیناتی، کوڈ معائنہ، اور کام کی لاگت کا تخمینہ۔