প্রকল্প সম্পর্কে

এই প্রজেক্টটি একটি প্রক্সি সার্ভার যা স্ট্যান্ডার্ড OpenAI API-এর সাথে পূর্ণ সামঞ্জস্যতা নিশ্চিত করে GitHub Models API মডেলগুলোর সাথে ইন্টারঅ্যাকশন সক্ষম করে। এটি বিভিন্ন প্রোভাইডারের (OpenAI, Meta, Microsoft, Mistral, DeepSeek এবং xAI সহ) ডজনখানেক মডেলের অ্যাক্সেস প্রদান করে। ### মূল বৈশিষ্ট্যসমূহ: - **একাধিক ইন্টারফেস**: স্ট্যান্ডার্ড OpenAI API, একটি বর্ধিত JSON API, একটি সহজীকৃত Chat API এবং পরীক্ষার জন্য একটি ইন্টারঅ্যাক্টিভ Web UI-এর সমর্থন। - **মনিটরিং এবং অ্যানালিটিক্স**: HTTP রিকোয়েস্ট, ত্রুটি, মেমরি ব্যবহার এবং পারফরম্যান্স ট্র্যাক করার জন্য একটি বিল্ট-ইন Prometheus-ফরম্যাট এন্ডপয়েন্ট। `/monitor`-এ একটি পৃথক মনিটরিং ওয়েব ইন্টারফেস উপলব্ধ। - **লোড কন্ট্রোল**: স্থিতিশীলতা নিশ্চিত করতে রেট লিমিটিং মেকানিজম এবং ওয়েটিং কিউ-সহ কনকারেন্সি কন্ট্রোল। - **সহায়ক টুলস**: - স্বয়ংক্রিয় সার্ভার রিকভারির জন্য `watchdog.sh`। - বেঞ্চমার্কিং, মডেল টেস্টিং এবং কোড উদাহরণ তৈরির স্ক্রিপ্ট। - স্ট্রিমিং সাপোর্টসহ TTS ফাংশন (ইউক্রেনীয় ভয়েসওভার)। - **ইন্টেলিজেন্ট ফাংশন**: স্বয়ংক্রিয় কনটেক্সট লিমিট চেক এবং টাস্কের উপর ভিত্তি করে (গতি, গুণমান, টেক্সট ভলিউম) একটি মডেল রিকমেন্ডেশন সিস্টেম। ### টেকনিক্যাল স্ট্যাক: - Node.js 18+ - GitHub Models API-এর সাথে ইন্টিগ্রেশন