ওপেন সোর্স। নতুন সম্ভাবনা।

OmniRoute একটি ওপেন-সোর্স MIT-লাইসেন্সযুক্ত AI গেটওয়ে যা ৩৫২+ AI প্রদানকারী এবং ১২০০+ মডেলের একক ইউনিফাইড এন্ডপয়েন্ট অ্যাক্সেস প্রদান করে (১৫০+ ফ্রি টায়ার)। এতে কোটা-সচেতন অটো-ফলব্যাক, ১৫–৯৫% টোকেন সংকোচন এবং Claude Code, Cursor, Cline সহ অন্যান্য কোডিং এজেন্টের সাথে ইন্টিগ্রেশন রয়েছে।

MultiRouter AI হলো একটি OpenAI-সামঞ্জস্যপূর্ণ গেটওয়ে যা স্বয়ংক্রিয় ফেইলওভার এবং লোড ব্যালেন্সিংয়ের মাধ্যমে একাধিক AI প্রোভাইডারের মধ্যে চ্যাট রিকোয়েস্ট রাউট করে। এটি YAML কনফিগুরেশনের মাধ্যমে Groq, Cerebras, Gemini, OpenAI এবং কাস্টম এন্ডপয়েন্ট সমর্থন করে।

একটি ক্লাউডফ্লেয়ার ওয়ার্কার্স এআই এর জন্য ডিজাইন করা জিরো-খরচ গেটওয়ে। একাধিক অ্যাকাউন্টের বিনামূল্যের সুবিধা, বুদ্ধিমান রাউটিং এবং ফিউশন মেকানিজমের মাধ্যমে, Qwen3 ইত্যাদি মডেলগুলিকে স্ট্যান্ডার্ড ওপেনএআই এপিআইতে রূপান্তরিত করে, চেরি স্টুডিও ইত্যাদি ক্লায়েন্টদের সমর্থন করে।

Higress হল Istio এবং Envoy-এর উপর নির্মিত একটি ক্লাউড-নেটিভ AI-নেটিভ API গেটওয়ে, যেখানে Wasm প্লাগইন সম্প্রসারণযোগ্যতা, ইউনিফাইড LLM প্রোভাইডার অ্যাক্সেস, MCP সার্ভার হোস্টিং এবং Kubernetes ইনগ্রেস সমর্থন রয়েছে।

Kong Gateway একটি ক্লাউড-নেটিভ, প্ল্যাটফর্ম-নিরপেক্ষ API, LLM এবং MCP গেটওয়ে যা প্লাগিন-ভিত্তিক এক্সটেন্সিবিলিটি, রাউটিং, লোড ব্যাল্যান্সিং, অপ্​ Authentication এবং AI ট্রাফিক ফিচার প্রদান করে।

Apache APISIX হলো NGINX এবং etcd-এর উপর নির্মিত একটি গতিশীল, রিয়েল-টাইম, উচ্চ-ক্ষমতাসম্পন্ন ক্লাউড-নেটিভ API এবং AI গেটওয়ে, যা ডায়নামিক রাউটিং, প্লাগইন হট-লোডিং, মাল্টি-প্রোটোকল সাপোর্ট এবং LLM ওয়ার্কলোডের জন্য AI প্রক্সি প্রদান করে।