প্রকল্প সম্পর্কে

Simple Router হলো Next.js দিয়ে তৈরি একটি হালকা ওজনের, সেলফ-হোস্টেড গেটওয়ে যা ব্যবহারকারীদের একটি ইউনিফাইড OpenAI-কম্প্যাটিবল API ফরম্যাটের মাধ্যমে বিভিন্ন AI প্রোভাইডার—যার মধ্যে OpenAI, Gemini, Anthropic, Groq, OpenRouter, Alibaba DashScope এবং Ollama বা vLLM-এর মতো লোকাল সার্ভার অন্তর্ভুক্ত—অ্যাক্সেস করার সুযোগ দেয়। এর মূল সক্ষমতাগুলোর মধ্যে রয়েছে: - ইউনিফাইড API এন্ডপয়েন্ট: এটি চ্যাট কমপ্লিশন, রেসপন্স, এমবেডিং, ইমেজ জেনারেশন এবং মডেল লিস্টিং সমর্থন করে, যা এটিকে বিদ্যমান OpenAI SDK-গুলোর সাথে সামঞ্জস্যপূর্ণ করে তোলে। - অ্যাডভান্সড রাউটিং: এটি ফিক্সড, র‍্যান্ডম, রাউন্ড-রবিন, ওয়েটেড এবং প্রায়োরিটি ফেইলওভারের মতো একাধিক রাউটিং কৌশল সমর্থন করে। - ভার্চুয়াল মডেল: API কী-গুলো ভার্চুয়াল মডেল হিসেবে কাজ করতে পারে, যা অ্যাডমিনিস্ট্রেটরদের বিভিন্ন প্রজেক্টের জন্য নির্দিষ্ট মডেল লিস্ট এবং রাউটিং কৌশল নির্ধারণ করার অনুমতি দেয়। - ম্যানেজমেন্ট টুলস: এতে মেট্রিক্স মনিটরিং, প্রোভাইডার এবং কী ম্যানেজমেন্ট, ইউসেজ অ্যানালিটিক্স ট্র্যাকিং এবং সার্চযোগ্য লগ দেখার জন্য একটি অ্যাডমিন ড্যাশবোর্ড রয়েছে। - রেট লিমিটিং এবং ট্র্যাকিং: এটি প্রতি-কী রেট লিমিট (প্রতি মিনিট/দিন রিকোয়েস্ট/টোকেন) এবং টোকেন কাউন্ট ও ল্যাটেন্সির উপর ভিত্তি করে খরচ অনুমানের সুবিধা প্রদান করে। - নিরাপত্তা: এতে সেশন-ভিত্তিক লগইন, JWT API টোকেন এবং সংরক্ষিত API কী-গুলোর জন্য AES-256-GCM এনক্রিপশন ফিচার রয়েছে। - স্ট্রিমিং সাপোর্ট: এটি চ্যাট কমপ্লিশনের জন্য Server-Sent Events (SSE) সমর্থন করে, যার মধ্যে Anthropic-এর মতো প্রোভাইডারদের জন্য ফরম্যাট কনভার্সন অন্তর্ভুক্ত।