Sobre o projeto
O AI Runner é um motor de inferência offline, com a privacidade em primeiro lugar, que combina geração de arte com IA e um companheiro de chat personalizável. Ele roda por padrão no seu próprio hardware, sem exigir conexão com a internet, chave de API ou assinatura.
Principais capacidades:
- Companheiro de IA: nome, personalidade, voz e memória de longo prazo construída a partir das conversas, com consciência de hora, data e clima local.
- Tela em camadas: desenhe, pinte, gere e aplique filtros em várias camadas; esboço para imagem, imagem para imagem, inpainting, composição e filtros de pós-processamento.
- Geração de imagens: SDXL e Z-Image Turbo com LoRA, embeddings, remoção de fundo e filtros de segurança configuráveis.
- Voz: text-to-speech e speech-to-text completos, para que você possa falar com o companheiro e ouvir respostas em uma voz escolhida.
- Gerenciamento de modelos: downloaders integrados do HuggingFace e Civitai, suporte a vários LLMs locais e modelos de imagem.
As opções de implantação incluem download para desktop, imagens Docker (variantes GUI, headless e Linux), pacotes PyPI e uma versão web. Um servidor de API HTTP headless expõe endpoints para health, LLM, arte, TTS e STT, além de endpoints compatíveis com Ollama e compatíveis com OpenAI para integração com ferramentas como o VS Code. Variáveis de ambiente e flags de CLI controlam caminhos de modelos, portas, autenticação e ativação de serviços.
O projeto é escrito em Python 3.13, licenciado sob GPL-3.0, e tem como alvo principal o Linux, com suporte experimental para Windows. É desenvolvido pela Capsize LLC e aceita patrocínio.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.