একটি প্রোডাকশন-গ্রেড, OpenAI-সামঞ্জস্যপূর্ণ স্মার্ট LLM রাউটার এবং ফলব্যাক প্রক্সি যা সাধারণ কুয়েরিগুলোকে Small Language Models (SLMs)-এ এবং জটিল কুয়েরিগুলোকে ফ্রন্টিয়ার মডেলগুলোতে রাউট করে খরচ অপ্টিমাইজ করে।
ওপেন সোর্স। নতুন সম্ভাবনা।
মানসম্মত ওপেন-সোর্স প্রজেক্ট আবিষ্কার করুন, বেনামে প্রজেক্ট জমা দিন এবং নিজের প্রজেক্ট দাবি করে সম্পাদনা করুন।
কৌতূহল নিয়ে ওপেন সোর্স আবিষ্কার করুন।
THE FIRST COLLECTIONRouteTok হল একটি লোকাল-ফার্স্ট LLM ইনফারেন্স রাউটার যা OpenAI ও Anthropic কমপ্যাটিবল API, হেলথ-অ্যাওয়েয়ার ফেলওভার, মাল্টি-প্রোভাইডার ক্যাটালগ, অপারেশনস ড্যাশবোর্ড এবং মডেল স্যান্ডবক্স সম্পন্ন।
Token Station হল AI এজেন্ট এবং LLM প্রদানকারীদের জন্য একটি স্থানীয় রাউটিং গেটওয়ে। Claude Code, Cursor, Codex, Gemini CLI এবং অন্যদের একটি লুপব্যাক-শুধুমাত্র গেটওয়ের মাধ্যমে রুট করুন, স্মার্ট টিয়ার নির্বাচন, কোটা-সচেতন রাউটিং এবং ব্যবহার ট্র্যাকিং সহ।
LLM Router একটি সার্ভার যা OpenAI-সামঞ্জস্যপূর্ণ API অনুরোধগুলিকে বিভিন্ন LLM প্রদানকারীর মধ্যে পরিচালনা করে। এটি OpenAI, Anthropic এবং Gemini ফরম্যাটের মধ্যে অনুরোধ ও প্রতিক্রিয়া রূপান্তর করে।
Switchboard হলো একটি লোকাল-ফার্স্ট AI গেটওয়ে যা আপনার মেশিনে চলে এবং ১৬টি AI প্রভাইডারের মধ্যে অনুরোধ রুট করে। এটি ফ্রি টায়ার অগ্রাধিকার, স্বয়ংক্রিয় ফলব্যাক এবং পূর্ণ রুটিং সিদ্ধান্ত লগিং সরবরাহ করে। কোনো ক্লাউড টেলিমেট্রি নেই।