local-optimind-api

Local OptiMind API é um gateway de código aberto, executado localmente, que roteia solicitações de LLM entre múltiplos provedores de IA (OpenAI, DeepSeek, Anthropic, Groq, Together, LLMs locais) usando um único endpoint compatível com OpenAI. Ele seleciona inteligentemente o provedor ideal para cada solicitação com base em modos configuráveis: prioridade de custo, prioridade de qualidade ou equilibrado. O sistema inclui descoberta automática de modelos, níveis de preços personalizados, rastreamento de integridade com backoff exponencial, registro de solicitações e suporte a streaming SSE. Um painel de administração permite gerenciar provedores, modelos, preços e visualizar logs via interface web. Clientes estão disponíveis em Python, JavaScript/TypeScript, Go, Java e .NET com APIs idênticas. O roteador suporta roteamento de fallback em caso de falha, inferência de modelo baseada em tarefas quando correspondências exatas não estão disponíveis e integra-se ao Docker para implantação fácil. A arquitetura inclui filtragem de integridade, correspondência de modelos, lógica de pontuação e camadas de execução. A configuração é gerenciada via variáveis de ambiente. Licenciado sob MIT, com contribuições bem-vindas para novos adaptadores de provedores, contagem de tokens e estratégias de roteamento.