প্রকল্প সম্পর্কে

Zuzia Relay একটি প্রোডাকশন-রেডি AI গেটওয়ে, যা Node.js পরিবেশের জন্য ডিজাইন করা হয়েছে। এটি একাধিক AI প্রদানকারীকে একটি একক OpenAI-সামঞ্জস্যপূর্ণ লোকাল এন্ডপয়েন্টে একত্রিত করে, অ্যাপ্লিকেশনে বিভিন্ন LLM সংযুক্তি সহজ করে। মূল সক্ষমতাগুলি অন্তর্ভুক্ত করে: - OAuth এবং API কী-এর নিরাপদ ব্যবস্থাপনা। - স্ট্রিমিং রেসপন্সের সমর্থন। - বহু-অ্যাকাউন্ট রাউটিং এবং হেলথ চেক, যা প্রাপ্যতা নিশ্চিত করে। - স্মার্ট রিট্রাই মেকানিজম এবং ফ্রি ও পেইড উভয় মডেলের জন্য স্বয়ংক্রিয় ফ্যালব্যাক। - একটি CLI-প্রথম আর্কিটেকচার, যা ওয়েব ড্যাশবোর্ডের প্রয়োজন ছাড়াই কাজ করে।