প্রকল্প সম্পর্কে

OmniRoute হলো একটি সেলফ-হোস্টেড AI গেটওয়ে যা শত শত AI প্রদানকারী এবং মডেলে একক স্থানীয় এন্ডপয়েন্টের মাধ্যমে অ্যাক্সেস একত্রিত করে। MIT লাইসেন্সের অধীনে, এটি ইনস্টলেশনের পর শূন্য কনফিগারেশন এবং কোনো API কী বা সাইনআপ ছাড়াই তৎক্ষণাৎ কাজ করে। ## এটি কী করে OmniRoute ৩৫২+ AI প্রদানকারীকে একত্রিত করে যারা ১,২০০+ মডেল প্রদান করে, যার মধ্যে Claude, GPT, Gemini, GLM, DeepSeek, Kimi, এবং MiniMax অন্তর্ভুক্ত। এর মধ্যে ১৫০-এর বেশি প্রদানকারী টায়ার বিনামূল্যে, এবং একটি তালিকাভুক্ত পুঁজি মাসে প্রায় ১.৪৭ বিলিয়ন বিনামূল্যে টোকেন হিসেবে অনুমান করা হয়। গেটওয়ে সমস্ত প্রদানকারীকে একটি OpenAI-সামঞ্জস্যপূর্ণ `/v1` এন্ডপয়েন্টের পেছনে স্বাভাবিক করে, তাই কোনো সামঞ্জস্যপূর্ণ টুল ভেন্ডর-নির্দিষ্ট SDK ছাড়াই সংযোগ করে। ## প্রধান বৈশিষ্ট্য - **অটো-ফলব্যাক রাউটিং**: একটি কোটা-সচেতন রাউটার হার বা ব্যর্থতার সময় স্বয়ংক্রিয়ভাবে চারটি প্রদানকারী টায়ার (সাবস্ক্রিপশন → API কী → সস্তা → বিনামূল্যে) জুড়ে ফলব্যাক করে, আপনার কাজের প্রবাহ অবিচ্ছিন্ন রাখে। - **টোকেন কমপ্রেশন**: RTK এবং Caveman স্ট্যাকিং কমপ্রেশন যোগ্য কাজের ওপর টোকেন ব্যবহার ১৫–৯৫% (গড় ~৮৯%) হ্রাস করে, যা বিনামূল্যে কোটা আরও দীর্ঘস্থায়ী করতে সাহায্য করে। - **১৯টি রাউটিং কৌশল**: সার্কিট ব্রেকার, কী কুলডাউন, এবং মডেল লকআউট সুরক্ষা সহ নমনীয় অনুরোধ রাউটিং। - **MCP এবং A2A সমর্থন**: নেটিভ মডেল কনটেক্সট প্রোটোকল এবং এজেন্ট-টু-এজেন্ট প্রোটোকল ইন্টিগ্রেশন। - **লোকাল-ফার্স্ট**: সমস্ত অনুরোধ `localhost:20128` এর মাধ্যমে রাউট হয়। এনক্রিপশন কী AES-256-GCM ব্যবহার করে; কোনো প্রদানকারী ট্রাফিক তৃতীয় পক্ষের ক্লাউডের মাধ্যমে টানেল করা হয় না। - **TLS স্টিথ**: ঐচ্ছিক প্রক্সি-স্তরের TLS মাস্কিং। - **লাইভ টেলিমেট্রি**: রিয়েল-টাইম ড্যাশবোর্ড সংযুক্ত সমস্ত প্রদানকারী জুড়ে ব্যবহার, কোটা, সঞ্চয়, এবং p95 লেটেন্সি ট্র্যাক করে। - **গার্ডরেল এবং মূল্যায়ন**: উৎপাদন-গ্রেড গার্ডরেল, মূল্যায়ন, এবং হাজার হাজার স্ট্যাটিক টেস্ট ডিক্লারেশন। ## সামঞ্জস্যপূর্ণ টুল OmniRoute ডেভেলপার এবং কোডিং টুলের জন্য একটি ড্রপ-ইন ব্যাকএন্ড হিসেবে ডিজাইন করা হয়েছে, যার মধ্যে Claude Code, Codex, Cursor, OpenCode, Cline, GitHub Copilot এবং অন্যান্য অন্তর্ভুক্ত। একটি প্রি-ওয়্যার্ড কীলেস প্রদানকারী (OpenCode Free) `auto` মডেল আইডেন্টিফায়ার ব্যবহার করে সতেজ ইনস্টলেশনে তৎক্ষণাৎ প্রতিক্রিয়া দেয়। ## ডিপ্লয়মেন্ট বিকল্প গেটওয়ে npm (`npm i -g omniroute`), Docker Hub, Electron ডেস্কটপ অ্যাপ, এবং PWA এর মাধ্যমে উপলব্ধ, ব্যবহারকারীদের কীভাবে এটি চালানো হবে তাতে নমনীয়তা প্রদান করে। Python, Node.js, PHP, এবং cURL এর জন্য কুইক-স্টার্ট স্ক্রিপ্ট প্রদান করা হয়েছে। ## আর্কিটেকচার স্মার্ট রাউটার কলার এবং প্রদানকারী স্তরের মধ্যে বসে, কোটা উপলব্ধতা, খরচ টায়ার, এবং রাউটিং কৌশল অনুযায়ী প্রদানকারী নির্বাচন এবং কমপ্রেশন প্রয়োগ করে। প্রদানকারী কীগুলো একটি সাবস্ক্রিপশন শেয়ার করা দলগুলোর মধ্যে ন্যায্য-শেয়ার বণ্টনের জন্য পুল করা হয়। একটি টার্মস-ঝুঁকি ক্যাটালগ ১৩টি প্রদানকারী চিহ্নিত করে যেখানে ব্যবহারকারীদের ব্যবহারের আগে শর্তাবলী পর্যালোচনা করা উচিত। ## সম্প্রদায় এবং অবদানকারী ৫৫০+ অবদানকারীদের দ্বারা নির্মিত, OmniRoute-এর ৫১টি ভাষায় অনুবাদ রয়েছে। সমর্থন চ্যানেলের মধ্যে Discord, Telegram, WhatsApp গ্রুপ, এবং v3.9.0 LTS লক্ষ্য করে একটি পাবলিক রোডম্যাপ অন্তর্ভুক্ত।