OpenAI Chat Completions এবং Embeddings API‑এর জন্য ন্যূনতম FastAPI প্রক্সি। বহু-ভাড়াটে কী ম্যাপিং, স্ট্রিমিং এবং অফিসিয়াল SDK সামঞ্জস্যতা ডাটাবেস ছাড়া সমর্থন করে।
ওপেন সোর্স। নতুন সম্ভাবনা।
মানসম্মত ওপেন-সোর্স প্রজেক্ট আবিষ্কার করুন, বেনামে প্রজেক্ট জমা দিন এবং নিজের প্রজেক্ট দাবি করে সম্পাদনা করুন।
কৌতূহল নিয়ে ওপেন সোর্স আবিষ্কার করুন।
THE FIRST COLLECTIONCogniGate হলো একটি সেলফ-হোস্টেড, মাল্টি-টেন্যান্ট LLM গেটওয়ে যা একাধিক মডেল প্রোভাইডার পরিচালনা করার জন্য একটি একক OpenAI-কম্প্যাটিবল এন্ডপয়েন্ট প্রদান করে এবং ক্রেডেনশিয়াল সুরক্ষিত রাখে।
RouteTok হল একটি লোকাল-ফার্স্ট LLM ইনফারেন্স রাউটার যা OpenAI ও Anthropic কমপ্যাটিবল API, হেলথ-অ্যাওয়েয়ার ফেলওভার, মাল্টি-প্রোভাইডার ক্যাটালগ, অপারেশনস ড্যাশবোর্ড এবং মডেল স্যান্ডবক্স সম্পন্ন।
LLM রাউটিং, রিট্রাই, ফলব্যাক, স্ট্রাকচার্ড আউটপুট এবং ব্যবহার/খরচ হিসাব করার জন্য একটি প্রোভাইডার-নিরপেক্ষ FastAPI গেটওয়ে। এটি মডেল অ্যালিয়াস, রিট্রাই পলিসি এবং পারসিস্টেন্ট ইউসেজ ট্র্যাকিং সহ Gemini এবং OpenAI সমর্থন করে।
The OpenAI Cookbook provides Python code examples and guides for common OpenAI API tasks. Users need an OpenAI account and API key to run the examples.
AI-চালিত রিয়েল-টাইম ভিজ্যুয়াল নোভেল ইঞ্জিন, স্ট্রিমিং নারেটিভ, ক্যারেক্টার স্প্রাইট, সিন ব্যাকগ্রাউন্ড, শাখাযুক্ত পছন্দ এবং সহ-সৃষ্টি সহ। ডেস্কটপ অ্যাপ বা ব্রাউজার হিসেবে FastAPI+SSE-এর মাধ্যমে চালায়।
Xinference একটি ইউনিফাইড ইনফারেন্স লাইব্রেরি যা ভাষা, বক্তৃতা এবং মাল্টিমোডাল মডেল পরিবেশন করে। এটি OpenAI-সামঞ্জস্যপূর্ণ RESTful API, হেটেরোজেনিয়াস GPU/CPU ব্যবহার, বিতরণকৃত ডিপ্লয়মেন্ট এবং LangChain, LlamaIndex, Dify, Chatbox-এর সাথে ইন্টিগ্রেশন প্রদান করে।
One API একটি একক LLM API পরিচালনা ও বিতরণ ব্যবস্থা যা OpenAI, Azure, Anthropic Claude, Google Gemini, DeepSeek সহ দশকেরও বেশি জনপ্রিয় মডেল সমর্থন করে। এতে OpenAI-সামঞ্জস্যপূর্ণ ইন্টারফেস, টোকেন পরিচালনা, চ্যানেল লোড ব্যালেন্সিং, ব্যবহারকারী গোষ্ঠী বিভাজন ও পুনঃবিতরণ সুবিধা রয়েছে।
GPT4Free (g4f) একাধিক ভাষা মডেল ও মিডিয়া জেনারেশন প্রোভাইডারকে ঐক্যবদ্ধ ইন্টারফেসে সমন্বয় করে। Python/JS ক্লায়েন্ট, OpenAI-সামঞ্জস্যপূর্ণ REST API, GUI ও CLI সমর্থন করে। gpt-4o-mini ও flux মডেলের মাধ্যমে টেক্সট ও ইমেজ জেনারেশন উপলব্ধ।
একটি হালকা ওজনের OpenAI API রিভার্স প্রক্সি যা প্রতি-কী টোকেন বাজেট, রেট লিমিটিং, কস্ট ড্যাশবোর্ড এবং স্বয়ংক্রিয় মডেল ডাউনগ্রেডিং সুবিধা প্রদান করে।