প্রকল্প সম্পর্কে

এই রেপোজিটরি একটি হালকা ওজনের FastAPI-ভিত্তিক প্রক্সি সার্ভার প্রদান করে যা OpenAI‑এর Chat Completions এবং Embeddings API‑গুলিতে অনুরোধ ফরোয়ার্ড করে। এটি ব্যবহারকারীদের র‍্যাপার API কীকে প্রকৃত OpenAI কী‑এর সাথে ম্যাপ করতে সক্ষম করে, ফলে কী ম্যানেজমেন্ট প্রয়োজনীয় বহু-ভাড়াটে পরিবেশের জন্য উপযুক্ত। এই প্রক্সি অফিসিয়াল OpenAI Python SDK‑এর সঙ্গে সম্পূর্ণ সামঞ্জস্যপূর্ণ, Server-Sent Events (SSE) এর মাধ্যমে স্ট্রিমিং চ্যাট কমপ্লিশন সমর্থন করে, এবং কোনো ডাটাবেসের প্রয়োজন নেই — কনফিগারেশন একটি সহজ Python ফাইলের মাধ্যমে পরিচালিত হয়। ডিপ্লয়মেন্ট বিকল্পগুলির মধ্যে রয়েছে Uvicorn দিয়ে লোকাল ডেভেলপমেন্ট এবং Supervisor ব্যবহার করে প্রোডাকশন ডিপ্লয়মেন্ট, সঙ্গে অন্তর্ভুক্ত স্ক্রিপ্টগুলো। ক্লায়েন্ট এবং OpenAI API‑এর মধ্যে একটি ন্যূনতম, স্ব-হোস্টেড লেয়ার প্রয়োজনীয় দল বা সার্ভিসের জন্য আদর্শ, যা SDK সামঞ্জস্যতা বজায় রাখে এবং জটিল ইনফ্রাস্ট্রাকচার এড়ায়।