Unified LLM Engine предоставляет единый API для доступа к нескольким провайдерам LLM с автоматическим переключением, отслеживанием затрат, кэшированием и async-поддержкой.
OPEN SOURCE, OPEN TO EVERYONE
Открытый код. Новые возможности.
Находите качественные проекты с открытым исходным кодом, отправляйте проекты анонимно, заявляйте права на свои проекты и редактируйте их.
✳Выбор редакции · Находите хороший open source4109найдено
Немного любопытства. Мир открытого кода.
THE FIRST COLLECTIONTopic: llm-api清除
unified-llm-engineTEJA4704
НОВОЕllm-apipoolGFardad
НОВОЕllm-apipool объединяет более 40 бесплатных LLM-API в один OpenAI-совместимый эндпоинт. Автоматически ротировает ключи, обрабатывает rate limits, отслеживает использование и поддерживает CLI, TUI, прокси и интеграцию с LangChain.
openai-shimwaracci
НОВОЕБиблиотека Python без зависимостей, переводящая различные API LLM в совместимый с OpenAI формат и обеспечивающая автоматический переключатель между провайдерами.
free-llm-api-stackdklymentiev
НОВОЕZero-dependency роутер, объединяющий несколько бесплатных LLM API в единый отказоустойчивый OpenAI-совместимый эндпоинт с автоматическим фалловером.