Sobre o projeto
Este repositório fornece um conjunto de roles Ansible para construir uma infraestrutura de IA/LLM para homelab em VMs Proxmox e containers LXC. Foi extraído de uma coleção maior ansible-proxmox-apps e foca especificamente na pilha de IA.
As roles estão organizadas em várias áreas funcionais:
- **Serviço de LLM**: ollama (servidor de modelos), llama_cpp com llama-swap (camada GPU), llm_router (proxy LiteLLM como porta de entrada compatível com OpenAI) e open_webui (frontend de chat).
- **RAG**: llamaindex (pipeline de embeddings Python + Ollama apenas CPU) e qdrant_docker (banco de dados vetorial).
- **Agentes**: hermes_agent (gateway de agente NousResearch), agent_exec (execução em sandbox), agentgateway_docker, codex_runner (usuário isolado do Codex CLI).
- **Plataformas de aplicações LLM**: Dify, LangFlow, LangGraph, Langfuse e Arize Phoenix (todas baseadas em Docker).
- **Operações**: fabric_watchdog, um temporizador systemd que sonda o tecido do agente a partir do convidado Hermes e alerta via Slack.
As ferramentas de desenvolvimento são gerenciadas por meio de um flake Nix e direnv, fornecendo ansible-core, ansible-lint, molecule, sops e utilitários relacionados. A linting e os testes baseados em molecule (com Docker) estão disponíveis para roles individuais. Atualmente, apenas as roles são fornecidas; um playbook de nível de site e um carregador de inventário estão planejados como acompanhamentos. O projeto usa commits convencionais e um modelo de ramificação git-flow (branch develop). Licenciado sob Apache 2.0.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.