প্রকল্প সম্পর্কে
CC Router হলো একটি স্মার্ট রিভার্স প্রক্সি, যা বিশেষভাবে ক্লাউড কোড থেকে অ্যানথ্রপিক ম্যাসেজেস API-তে পাঠানো অনুরোধগুলো বিভিন্ন ব্যাকএন্ড AI মডেলের মধ্যে রুট করার জন্য ডিজাইন করা হয়েছে। এটি আবিষ্কৃত এজেন্ট রোল (যেমন: অ্যানালিস্ট, ডিবাগার, প্ল্যানার), অপারেটর টায়ার (হাiku/সনেট/ওপাস) এর উপর ভিত্তি করে মডেলের গতিশীল নির্বাচন সক্ষম করে, এবং টপিক সামারিজেসন কাজের জন্য বিশেষ হ্যান্ডলিং সরবরাহ করে।
রুটারটি SubagentStart হুক-এর মাধ্যমে এজেন্ট সনাক্তকরণের জন্য oh-my-claudecode-এর সাথে ইন্টিগ্রেশন করে এবং JSONC ফাইলের মাধ্যমে কনফিগারেশন সমর্থন করে, যা টার্মিনাল UI (TUI)-তে ইন্টারেক্টিভিভাবে সম্পাদনা করা যায় রিস্টার্ট ছাড়াই। এতে রিকোয়েস্ট লেটেנসি, সেকেন্ড প্রতি টোকেন এবং রুটিং সিদ্ধান্তসহ রিয়েল-টাইম মেট্রিক্স ট্র্যাকিং অন্তর্ভুক্ত রয়েছে।
কনফিগারেশন অ্যানথ্রপিক, ওপেনরুটার, Z.AI, KIMI, ডিপসিক, মিনিম্যাক্স, আলিবাবা কুয়েন এবং লোকাল llama.cpp ইনস্ট্যান্সসহ একাধিক LLM প্রদানকারীদের সমর্থন করে। হট রিলোড ফিচারের মাধ্যমে কনফিগ পরিবর্তন সঙ্গে সঙ্গে কার্যকর হয়।
টুলটি Bun, NPM বা Docker দিয়ে ইনস্টল করা যায় এবং পোর্ট কাস্টমাইজেশনের জন্য পরিবেশ চলক উন্মুক্ত করে। রুটিং লজিক প্রথমে টপিক সামারাইজার সনাক্তকরণকে অগ্রাধিকার দেয়, তারপর এজেন্ট-নির্দিষ্ট মানচিত্রকরণ এবং শেষে অপারেটর টায়ার-ভিত্তিক রুটিংয়ের ওপর fallback করে। ব্যবহারকারীরা কনফিগ ফাইলে নতুন এন্ট্রি যোগ করে এবং এজেন্টগুলিকে সেইভাবে ম্যাপ করে সমর্থিত মডেল সম্প্রসারিত করতে পারে। MIT লাইসেন্সের অধীনে মুক্ত।
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.