প্রকল্প সম্পর্কে

ai-router একটি বুদ্ধিমান LLM রাউটার যা OpenAI-সামঞ্জস্যপূর্ণ API প্রদান করে এবং অনুরোধগুলোকে সবচেয়ে উপলব्ध প্রদানকারীর দিকে রুট করে। এতে প্রতিটি প্রদানকারী জন্য অন্তর্নির্মিত সার্কিট ব্রেকার, স্বাস্থ্য নিরীক্ষণ এবং খরচ ট্র্যাকিং অন্তর্ভুক্ত আছে। রাউটার প্রদানকারীদের অগ্রাধিকার, বর্তমান উপলব্ধতা এবং মডেল ট্যাগ (যেমন চ্যাট, কোড, ফাস্ট এবং অন্যান্য) ভিত্তি করে নির্বাচন করে। এতে চ্যাট কমপ্লিশন, স্বাস্থ্য চেক, মেট্রিক্স দৃশ্য এবং সার্কিট ব্রেকার ব্যবস্থাপনার জন্য এন্ডপয়েন্ট অন্তর্ভুক্ত আছে。