À propos du projet
Ce dépôt fournit un ensemble de rôles Ansible pour construire une infrastructure AI/LLM de homelab sur des VM Proxmox et des conteneurs LXC. Il a été extrait d'une collection plus large nommée ansible-proxmox-apps et se concentre spécifiquement sur la pile AI.
Les rôles sont organisés en plusieurs domaines fonctionnels :
- **Service LLM** : ollama (serveur de modèles), llama_cpp avec llama-swap (niveau GPU), llm_router (proxy LiteLLM comme porte d'entrée compatible OpenAI), et open_webui (interface de chat).
- **RAG** : llamaindex (pipeline d'embeddings Python + Ollama CPU-only) et qdrant_docker (base de données vectorielle).
- **Agents** : hermes_agent (passerelle d'agent NousResearch), agent_exec (exécution sandboxée), agentgateway_docker, codex_runner (utilisateur Codex CLI isolé).
- **Plateformes d'applications LLM** : Dify, LangFlow, LangGraph, Langfuse et Arize Phoenix (tous basés sur Docker).
- **Ops** : fabric_watchdog, un minuteur systemd qui sonde la structure des agents depuis l'invité Hermes et alerte via Slack.
L'outillage de développement est géré via un Nix flake et direnv, fournissant ansible-core, ansible-lint, molecule, sops et les utilitaires associés. Le linting et les tests basés sur molecule (avec Docker) sont disponibles pour les rôles individuels. Actuellement, seuls les rôles sont fournis ; un playbook au niveau du site et un chargeur d'inventaire sont prévus ultérieurement. Le projet utilise les commits conventionnels et un modèle de branchement git-flow (branche develop). Licencié sous Apache 2.0.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.