atomic-chat

Atomic Chat é um aplicativo local de IA e mecanismo de inferência voltado para executar modelos de linguagem de grande porte de código aberto em sua própria máquina, com ênfase em privacidade e operação offline. Ele é distribuído em versões para desktop em macOS, Windows e Linux, além de aplicativos para iOS e Android. Capacidades principais descritas no README: - Execução de modelos locais: execute modelos de código aberto do Hugging Face, incluindo as famílias Llama, Gemma, Qwen, Mistral e Phi. - API local compatível com OpenAI: um servidor em http://localhost:1337/v1 atua como substituto direto do SDK da OpenAI, permitindo que agentes, CLIs e plugins de IDE existentes apontem para ele apenas alterando a URL base. Ele vincula a 127.0.0.1 por padrão e pode ser exposto em uma rede local definindo o host como 0.0.0.0. - Múltiplos backends de inferência: um fork do llama.cpp com opções de cache KV TurboQuant, llama.cpp upstream e MLX-VLM para modelos de visão-linguagem em Apple Silicon. O README afirma que os clientes não precisam saber qual backend está ativo. - Opções de decodificação e desempenho: decodificação especulativa Multi-Token Prediction, decodificação por difusão de blocos DFlash, alternâncias de Flash Attention, rastreamento de contexto de raciocínio e expansão automática da janela de contexto. - Suporte a modelos em nuvem: provedores integrados como OpenAI, Anthropic, Mistral, Groq, MiniMax, Qwen e Moonshot, com opção de trazer sua própria chave e alternância de modelo por conversa. - Ferramentas e integrações: lançamento com um clique de agentes externos (por exemplo, Claude Code, Codex CLI, Cline, OpenCode, Goose, OpenHands, Copilot CLI, Kilo Code, Zed), painel de pré-visualização de Artifacts para HTML/CSS/JS, conexões de servidor MCP, assistentes personalizados com prompts de sistema e projetos com visualização em árvore de conversas. O README também documenta a compilação a partir do código-fonte com Node.js 20+, Yarn, Make e Rust, requisitos de sistema por plataforma, uso do AppImage no Linux e solução de problemas via issues do GitHub ou Discord. As figuras de desempenho citadas no README (como aumentos de throughput ou reduções no tamanho do cache KV) são alegações do próprio projeto e não foram verificadas de forma independente aqui.