প্রকল্প সম্পর্কে

subrelay হল একটি হালকা ওজনের রিলে গেটওয়ে, যা একাধিক OpenAI এবং Anthropic API ক্রেডেনশিয়াল পরিচালনার জন্য ডিজাইন করা হয়েছে। এটি ব্যবহারকারী এবং আপস্ট্রিম প্রদানকারীদের মধ্যে একটি মধ্যস্তর হিসেবে কাজ করে, ওজনযুক্ত-র্যান্ডম নির্বাচন, স্বয়ংক্রিয় ফেইলওভার এবং রেট-লিমিট ব্যাকঅফের মতো বৈশিষ্ট্য প্রদান করে। বড় আকারের বিকল্পগুলোর তুলনায়, এটি স্টোরেজের জন্য SQLite ব্যবহার করে এবং Redis বা PostgreSQL এর মতো কোনো বহিরাগত নির্ভরতা প্রয়োজন হয় না। মূল সক্ষমতাগুলি অন্তর্ভুক্ত করে: - প্রোটোকল সামঞ্জস্যতা: OpenAI Chat Completions এবং Anthropic Messages API উভয়ই সমর্থন করে, এবং প্রোটোকল মিলে গেলে বাইট-লেভেল পাসথ্রু প্রদান করে যাতে টুল-কলিং এবং প্রদানকারী-নির্দিষ্ট ফিল্ডগুলি সংরক্ষিত থাকে। - ক্রেডেনশিয়াল ব্যবস্থাপনা: একাধিক কী পরিচালনা করে, দৈনিক বাজেট প্রয়োগ, সমান্তরাল সীমা, এবং 429 অথবা 5xx ত্রুটির ক্ষেত্রে স্বয়ংক্রিয় কুলডাউন প্রদান করে। - New API ইন্টিগ্রেশন: একটি sync-newapi কমান্ডের মাধ্যমে স্থানীয় কনফিগারেশনকে New API চ্যানেলের সাথে সমন্বয় করে, ড্রাই রান, প্রুনিং এবং GitOps ওয়ার্কফ্লো সমর্থন করে। - পর্যবেক্ষণযোগ্যতা: Prometheus মেট্রিক্স, হেলথ চেক এবং ক্রেডেনশিয়াল স্বাস্থ্য পরীক্ষা করার জন্য একটি doctor CLI টুল প্রদান করে। - ডেভেলপার-বান্ধব: পরিবেশ ভেরিয়েবল ইন্টারপোলেশনসহ সহজ YAML কনফিগারেশন এবং Python বা Docker এর মাধ্যমে একক-প্রক্রিয়া ডিপ্লয়মেন্ট মডেল প্রদান করে।