প্রকল্প সম্পর্কে

Multi-Provider AI API Proxy হলো একটি HTTP প্রক্সি সার্ভার যা Anthropic Claude API-এর বিকল্প হিসেবে কাজ করার জন্য ডিজাইন করা হয়েছে। এটি ব্যবহারকারীদের Anthropic API ফরম্যাট বজায় রেখে Groq, OpenRouter এবং Portkey-এর মতো বিভিন্ন প্রোভাইডারের কাছে রিকোয়েস্ট পাঠানোর সুবিধা দেয়। এর প্রধান সক্ষমতাগুলোর মধ্যে রয়েছে: - **Multi-Provider Routing**: Groq, OpenRouter এবং Portkey-এর মাধ্যমে রাউটিং সমর্থন করে, যেখানে কুয়েরি প্যারামিটারের মাধ্যমে প্রতি রিকোয়েস্টে প্রোভাইডার নির্বাচন করা যায় অথবা একটি গ্লোবাল ডিফল্ট সেট করা যায়। - **API Translation**: Anthropic এবং OpenAI/Groq ফরম্যাটের মধ্যে নিরবচ্ছিন্নভাবে রূপান্তর করে, যার মধ্যে টুল কলিং এবং জটিল কন্টেন্ট ব্লকের সমর্থন অন্তর্ভুক্ত। - **Key Management**: থ্রুপুট অপ্টিমাইজ করতে এবং লিমিট এড়াতে একাধিক API কী-এর (প্রতি প্রোভাইডারের জন্য ১০টি পর্যন্ত) মধ্যে রাউন্ড-রবিন রোটেশন বাস্তবায়ন করে। - **Intelligent Rate Limiting**: প্রোভাইডার-নির্দিষ্ট রেট লিমিট শনাক্ত করে (বিশেষ করে Groq এরর মেসেজ পার্স করে) এবং স্বয়ংক্রিয়ভাবে কী রিকভারি ও অপেক্ষার সময় পরিচালনা করে। - **Observability**: কী-এর স্বাস্থ্য, রিকোয়েস্ট পরিসংখ্যান এবং বিভিন্ন লগ লেভেলের সাথে বিস্তারিত পারসিস্টেন্ট লগিং মনিটর করার জন্য একটি রিয়েল-টাইম স্ট্যাটাস এন্ডপয়েন্ট প্রদান করে। - **Integration**: এনভায়রনমেন্ট ভেরিয়েবল কনফিগারেশনের (`ANTHROPIC_BASE_URL`) মাধ্যমে Claude Code, Cursor IDE এবং Continue-সহ Anthropic-কম্প্যাটিবল ক্লায়েন্টগুলোর সাথে সামঞ্জস্যপূর্ণ।