প্রকল্প সম্পর্কে

GPT-Load একটি স্ব-হোস্টেড AI গেটওয়ে যা একটি একক এন্ট্রি পয়েন্টের মাধ্যমে একাধিক AI প্রোভাইডার ও ক্রেডেনশিয়াল পরিচালনা করার জন্য ডিজাইন করা হয়েছে। এটি API কী এবং সাবস্ক্রিপশন অ্যাকাউন্ট (যেমন Codex, Claude, Antigravity এবং Grok) উভয়ই সমর্থন করে, যা একীভূত ক্রেডেনশিয়াল ব্যবস্থাপনা, ট্রাফিক শিডিউলিং, রিট্রাই, কুলডাউন, ব্ল্যাকলিস্টিং এবং সেশন অ্যাফিনিটি প্রদান করে যাতে ওভারলোডেড বা ব্যর্থ ক্রেডেনশিয়ালের প্রভাব কমে। গেটওয়েটি নেটিভ OpenAI, Anthropic এবং Gemini প্রোটোকল প্রকাশ করে, যা ক্লায়েন্টদের তাদের বিদ্যমান ইন্টারফেস বজায় রেখে বিভিন্ন আপস্ট্রিম সার্ভিসে অনুরোধ রাউট করার সুযোগ দেয়। বিল্ট-ইন চ্যানেলের মধ্যে রয়েছে অফিসিয়াল ও ক্লাউড প্রোভাইডার (OpenAI, Anthropic, Gemini, xAI, Azure OpenAI, AWS Bedrock, Google Vertex AI), মডেল সার্ভিস (DeepSeek, Moonshot AI, SiliconFlow, Zhipu AI, Alibaba, Volcengine, OpenRouter, Groq), সাবস্ক্রিপশন চ্যানেল এবং কাস্টম OpenAI-সামঞ্জস্যপূর্ণ রিলে। প্রধান বৈশিষ্ট্যগুলির মধ্যে রয়েছে: - কনফিগারযোগ্য ওয়েট, রিট্রাই, কুলডাউন, ব্ল্যাকলিস্টিং এবং সেশন অ্যাফিনিটি সহ মাল্টি-ক্রেডেনশিয়াল শিডিউলিং - এমবেডেড ম্যানেজমেন্ট UI-তে অনুরোধ লগিং, ব্যবহারের পরিসংখ্যান এবং খরচের অনুমান - স্থানীয় ক্রেডেনশিয়াল এনক্রিপশন সহ SQLite, MySQL বা PostgreSQL ডেটাবেসের সমর্থন - সহজ কুইক স্টার্ট সহ Docker Compose ডিপ্লয়মেন্ট - Linux, macOS এবং Windows-এর জন্য নেটিভ বাইনারি বিল্ড, যার মধ্যে একটি Windows Setup ইনস্টলার রয়েছে - নেটওয়ার্ক, ডেটাবেস, লগিং এবং নিরাপত্তা সেটিংসের জন্য এনভায়রনমেন্ট ভেরিয়েবল কনফিগারেশন GPT-Load 2.0 একটি সম্পূর্ণ পুনর্লিখন এবং 1.x ডেটা সরাসরি মাইগ্রেট করতে পারে না। এটি একটি একক অ্যাপ্লিকেশন ইনস্ট্যান্সের জন্য ডিজাইন করা হয়েছে এবং অনুভূমিক স্কেলিং সমর্থন করে না। ব্যবহার ও খরচের পরিসংখ্যান অনুমানভিত্তিক এবং আর্থিক রেকর্ড হিসেবে বিবেচনা করা উচিত নয়। প্রকল্পটি MIT লাইসেন্সের অধীনে এবং Bifrost Core, CLIProxyAPI এবং Lobe Icons-এর মতো ওপেন-সোর্স উপাদানের উপর নির্ভর করে।