Código aberto. Novas possibilidades.

Unified LLM Engine é uma biblioteca Python com API unificada para múltiplos provedores de LLM, oferecendo fallback automático, rastreamento de custos, cache inteligente, streaming e design async.

llm-apipool agrega mais de 40 APIs gratuitas de LLM em um único endpoint compatível com OpenAI. Rota automaticamente chaves, gerencia limites de taxa, rastreia uso e oferece integração via CLI, TUI, proxy e LangChain.

Uma biblioteca Python sem dependências que traduz diversas APIs de LLM para o formato compatível com OpenAI e permite failover automático entre provedores.

Roteador leve que agrega múltiplas camadas gratuitas de APIs LLM em um único endpoint resiliente e compatível com OpenAI, com failover automático.