这个项目能做什么

本仓库提供了一组 Ansible roles,用于在 Proxmox VM 和 LXC 容器上构建家庭实验室 AI/LLM 基础设施。该内容从更大的 ansible-proxmox-apps 集合中提取,专门专注于 AI 栈。 这些 roles 分为几个功能区域: - **LLM serving**:ollama(模型服务器)、带有 llama-swap 的 llama_cpp(GPU 层)、llm_router(作为 OpenAI 兼容前端的 LiteLLM 代理)以及 open_webui(聊天前端)。 - **RAG**:llamaindex(Python + Ollama 仅 CPU 嵌入流水线)和 qdrant_docker(向量数据库)。 - **Agents**:hermes_agent(NousResearch 智能体网关)、agent_exec(沙箱执行)、agentgateway_docker、codex_runner(隔离的 Codex CLI 用户)。 - **LLM app platforms**:Dify, LangFlow, LangGraph, Langfuse 和 Arize Phoenix(全部基于 Docker)。 - **Ops**:fabric_watchdog,一个 systemd 定时器,用于从 Hermes 访客端探测智能体 fabric 并通过 Slack 发出警报。 开发工具通过 Nix flake 和 direnv 进行管理,提供 ansible-core, ansible-lint, molecule, sops 及相关实用程序。单个 role 可进行 Linting 和基于 molecule(使用 Docker)的测试。目前仅提供 roles;站点级 playbook 和 inventory loader 计划在后续版本中推出。项目采用 conventional commits 和 git-flow 分支模型(develop 分支)。基于 Apache 2.0 许可证。