اوپن سورس۔ نئے امکانات۔

ایک اوپن سورس مائن کرافٹ سرور لوڈ ٹیسٹر جو بوٹس کے جھنڈ کو جوڑتا ہے اور سرور کے حقیقی اثرات جیسے تخمینی TPS، لیٹنسی، تھرو پٹ اور کک وجوہات کی رپورٹ دیتا ہے۔ CLI، ویب GUI، کنٹرول پلین API، ڈیبگ کنسول اور پروگرام ایبل بوٹس شامل ہیں۔ صرف مجاز جانچ۔

oha ایک Rust میں لکھا گیا چھوٹا HTTP لوڈ جنریٹر ہے جو ویب ایپلی کیشن کی کارکردگی کی نگرانی کے لیے ریئل ٹائم TUI فراہم کرتا ہے۔

AI Infra Bench فرنٹیئر ماڈلز کو حقیقی AI انفراسٹرکچر انجینئرنگ کے کاموں پر پرکھتا ہے، vLLM سے شروع کرتے ہوئے CPU اور GPU کے کاموں بشمول بگز، فیچرز، کارکردگی میں تبدیلیاں، ری فیکٹرنگ اور ٹیسٹ۔