منصوبے کے بارے میں
یہ پروجیکٹ ایک پراکسی سرور ہے جو GitHub Models API ماڈلز کے ساتھ etkiaction کو ممکن بناتا ہے جبکہ معیاری OpenAI API کے ساتھ مکمل ہم آہنگی کو یقینی بناتا ہے۔ یہ مختلف فراہم کنندگان (بشمول OpenAI، Meta، Microsoft، Mistral، DeepSeek، اور xAI) کے درجنوں ماڈلز تک رسائی فراہم کرتا ہے۔
### کلیدی خصوصیات:
- **متعدد انٹرفیس**: معیاری OpenAI API، ایک extended JSON API، ایک سادہ Chat API، اور ٹیسٹنگ کے لیے ایک انٹرایکٹو Web UI کی سپورٹ۔
- **مانیٹرنگ اور اینالیٹکس**: HTTP درخواستوں، غلطیوں، میموری کے استعمال اور کارکردگی کو ٹریک کرنے کے لیے Prometheus-format اینڈ پوائنٹ۔ ایک علیحدہ مانیٹرنگ ویب انٹرفیس `/monitor` پر دستیاب ہے۔
- **لوڈ کنٹرول**: استحکام کو یقینی بنانے کے لیے Rate limiting میکانزم اور انتظار کے queue کے ساتھ concurrency کنٹرول۔
- **امدادی ٹولز**:
- سرور کی خودکار بحالی کے لیے `watchdog.sh`۔
- بینچ مارکنگ، ماڈل ٹیسٹنگ، اور کوڈ مثالوں کی تخلیق کے لیے اسکرپٹس۔
- اسٹریمنگ سپورٹ کے ساتھ TTS فنکشن (یوکرینی وائس اوور)۔
- **ذہین افعال**: خودکار context limit چیکس اور ٹاسک (رفتار، معیار، متن کی مقدار) کی بنیاد پر ماڈل سفارش کا نظام۔
### تکنیکی اسٹیک:
- Node.js 18+
- GitHub Models API کے ساتھ انٹیگریشن
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.