প্রকল্প সম্পর্কে
ফ্রি LLM রাউটার হলো একটি পাইথন লাইব্রেরি এবং কমান্ড-লাইন টুল যা ব্যবহারকারীদের একাধিক ফ্রি-টায়ার এলএলএম API-তে রিকোয়েস্ট রাউট করতে সাহায্য করে। এটি কী ম্যানেজমেন্ট, মডেল খুঁজে বের করা, এবং অর্থনৈতিক সুরক্ষা নিয়ম প্রয়োগ করে। OpenRouter, Gemini, Groq সহ বিভিন্ন প্রদানকারীকে সমর্থন করে — কিছু ক্ষেত্রে ফ্রি-টায়ারের তথ্য ম্যানুয়ালি নিশ্চিত করতে হয়। টুলটি TOML ফাইলের মাধ্যমে কনফিগারেশন, নিরাপদ কী সংরক্ষণ (ফাইল বা পরিবেশ চলক), এবং স্বয়ংক্রিয় বিকল্প ব্যবস্থা সমর্থন করে। ক্লায়েন্ট এবং ডেভেলপমেন্টে পরীক্ষা, লিন্টিং, এবং গতি উন্নতি অন্তর্ভুক্ত। MIT লাইসেন্স প্রাপ্ত।
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.