Об этом проекте

Данный репозиторий предоставляет набор ролей Ansible для создания инфраструктуры AI/LLM в домашней лаборатории на базе виртуальных машин Proxmox и контейнеров LXC. Он был выделен из более крупной коллекции ansible-proxmox-apps и сфокусирован именно на AI-стеке. Роли организованы по нескольким функциональным областям: - **LLM serving**: ollama (сервер моделей), llama_cpp с llama-swap (GPU-уровень), llm_router (прокси LiteLLM в качестве совместимого с OpenAI интерфейса) и open_webui (чат-фронтенд). - **RAG**: llamaindex (конвейер эмбеддингов Python + Ollama только для CPU) и qdrant_docker (векторная база данных). - **Agents**: hermes_agent (шлюз агентов NousResearch), agent_exec (изолированное выполнение), agentgateway_docker, codex_runner (изолированный пользователь Codex CLI). - **LLM app platforms**: Dify, LangFlow, LangGraph, Langfuse и Arize Phoenix (все на базе Docker). - **Ops**: fabric_watchdog — системный таймер systemd, который проверяет структуру агентов из гостевой системы Hermes и отправляет уведомления в Slack. Инструментарий разработки управляется через Nix flake и direnv, предоставляя ansible-core, ansible-lint, molecule, sops и сопутствующие утилиты. Линтинг и тестирование на базе molecule (с Docker) доступны для отдельных ролей. На данный момент поставляются только роли; создание плейбука уровня сайта и загрузчика инвентаря запланировано на будущее. В проекте используются conventional commits и модель ветвления git-flow (ветка develop). Лицензия Apache 2.0.