প্রকল্প সম্পর্কে
DeepSeek Router হলো একটি প্রোডাকশন-গ্রেড প্রক্সি যা ক্লাউড কোডের জন্য উচ্চ উপলব্ধতা প্রদান করতে একাধিক AI প্রদানকারীর মধ্য দিয়ে অনুরোধ রুট করে। এটি অ্যানথ্রপিক মেসেজেজ API-এর জন্য একটি ড্রপ-ইন প্রতিস্থাপন হিসেবে কাজ করে এবং পাঁচটি বড় চীনা প্রদানকারীকে সমর্থন করে: DeepSeek, টেনসেন্ট হুনয়ান, জিপু GLM, আলিবাবা বাইলিয়েন, এবং বাইটড্যান্স ভোলেকঞ্জিন। এই রাউটারে ১ মিլিসেকেন্ডেরও কম ল্যাটেন্সির সাথে স্বয়ংক্রিয় ফেলওভার, ব্যর্থ এন্ডপয়েন্টগুলোকে বিচ্ছিন্ন করার জন্য সার্কিট ব্রেকিং, এবং শূন্য-ডাউনটাইম কনফিগারেশন পুনর্বাজন রয়েছে। এর মধ্যে একটি স্বাস্থ্য পর্যবেক্ষণ ড্যাশবোর্ড, প্রোমেথেউস মেট্রিক্স, রেট লিমিটিং এবং অনুরোধ যাচাইয়ের মতো নিরাপত্তা বৈশিষ্ট্য রয়েছে। একাধিক প্রদানকারীকে একত্রিত করে এটি সরকারি API-এর তুলনায় ৭-৩৪ গুণ সাশ্রয়ী একটি অপরিহার্য বিকল্প (~৯৯.৯৯% uptime) প্রদান করে যা একক-প্রদানকারী সেটআপের চেয়ে আকস্মিকভাবে উন্নত। সিস্টেমটি অ্যানথ্রপিক ফরম্যাট এবং বিভিন্ন প্রদানকারী-নির্দিষ্ট OpenAI-সামঞ্জস্যপূর্ণ ফরম্যাটের মধ্যে অনুবাদ পরিচালনা করে, যা বিদ্যমান সরঞ্জামগুলোর সাথে নিরবচ্ছিন্ন একীকরণ নিশ্চিত করে।
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.