llm-apipool ৪০+ ফ্রি LLM API-কে এক OpenAI-সামঞ্জস্যপূর্ণ এন্ডপয়েন্টে সমন্বয় করে। স্বয়ংক্রিয়ভাবে কী ঘুরায়, রেট লিমিট পরিচালনা করে, ব্যবহার ট্র্যাক করে এবং CLI, TUI, প্রক্সি ও LangChain ইন্টিগ্রেশন সমর্থন করে।
ওপেন সোর্স। নতুন সম্ভাবনা।
মানসম্মত ওপেন-সোর্স প্রজেক্ট আবিষ্কার করুন, বেনামে প্রজেক্ট জমা দিন এবং নিজের প্রজেক্ট দাবি করে সম্পাদনা করুন।
কৌতূহল নিয়ে ওপেন সোর্স আবিষ্কার করুন।
THE FIRST COLLECTIONএকটি উচ্চ-কার্যক্ষম একীভূত API গেটওয়ে যা একাধিক LLM প্রদানকারীর জন্য বুদ্ধিমান রাউটিং, রেট লিমিটিং এবং স্ট্রিমিং সমর্থন প্রদান করে।
RouteTok হল একটি লোকাল-ফার্স্ট LLM ইনফারেন্স রাউটার যা OpenAI ও Anthropic কমপ্যাটিবল API, হেলথ-অ্যাওয়েয়ার ফেলওভার, মাল্টি-প্রোভাইডার ক্যাটালগ, অপারেশনস ড্যাশবোর্ড এবং মডেল স্যান্ডবক্স সম্পন্ন।
Switchboard হলো একটি লোকাল-ফার্স্ট AI গেটওয়ে যা আপনার মেশিনে চলে এবং ১৬টি AI প্রভাইডারের মধ্যে অনুরোধ রুট করে। এটি ফ্রি টায়ার অগ্রাধিকার, স্বয়ংক্রিয় ফলব্যাক এবং পূর্ণ রুটিং সিদ্ধান্ত লগিং সরবরাহ করে। কোনো ক্লাউড টেলিমেট্রি নেই।
Claude Code-এর জন্য একটি উচ্চ-উপলব্ধতা প্রক্সি যা স্বয়ংক্রিয় ফেলওভার, সার্কিট ব্রেকিং এবং শূন্য-ডাউনটাইম কনফিগারেশনের মাধ্যমে পাঁচটি চীনা AI প্রদানকারীর মধ্য দিয়ে অনুরোধ রুট করে।