ওপেন সোর্স। নতুন সম্ভাবনা।

একটি হালকা ওজনের প্রক্সি যা Azure OpenAI API অনুরোধগুলোকে LiteLLM- সমর্থিত ব্যাকএন্ড যেমন DeepSeek, Anthropic বা Ollama-তে রূপান্তর করে, যা JetBrains IDE-র মতো Azure-সামঞ্জস্যপূর্ণ টুলগুলির মাধ্যমে ইউনিফাইড অ্যাক্সেস সক্ষম করে।

LiteLLM ও LangChain ব্যবহার করে LLM Gateway তৈরির প্রজেক্ট, যা OpenAI-কোম্প্যাটিবল API-র মাধ্যমে একাধিক AI প্রদানকারীতে unified অ্যাক্সেস দেয়।