zuzia-relay

Zuzia Relay एक प्रोडक्शन-रेडी AI गेटवे के रूप में कार्य करता है, जिसे Node.js वातावरण के लिए डिज़ाइन किया गया है। यह कई AI प्रदाताओं को एक ही OpenAI-संगत स्थानीय एंडपॉइंट में समेकित करता है, जिससे विभिन्न LLM को एप्लिकेशन में एकीकृत करना सरल हो जाता है। मुख्य क्षमताएँ शामिल हैं: - OAuth और API कुंजियों का सुरक्षित प्रबंधन। - स्ट्रीमिंग प्रतिक्रियाओं का समर्थन। - उपलब्धता सुनिश्चित करने के लिए मल्टी-एकाउंट रूटिंग और हेल्थ चेक। - स्मार्ट रीट्राई मैकेनिज़्म और मुफ्त तथा पेड दोनों मॉडलों के बीच स्वचालित फ़ॉलबैक। - एक CLI-प्रथम आर्किटेक्चर जो वेब डैशबोर्ड की आवश्यकता के बिना काम करता है।