इस प्रोजेक्ट के बारे में

यह रिपॉजिटरी Proxmox VMs और LXC कंटेनरों पर होमलैब AI/LLM इंफ्रास्ट्रक्चर बनाने के लिए Ansible roles का एक सेट प्रदान करती है। इसे एक बड़े ansible-proxmox-apps संग्रह से निकाला गया है और यह विशेष रूप से AI स्टैक पर केंद्रित है। इन roles को कई कार्यात्मक क्षेत्रों में व्यवस्थित किया गया है: - **LLM serving**: ollama (मॉडल सर्वर), llama_cpp with llama-swap (GPU-tier), llm_router (OpenAI-संगत फ्रंट डोर के रूप में LiteLLM प्रॉक्सी), और open_webui (चैट फ्रंटएंड)। - **RAG**: llamaindex (Python + Ollama CPU-only एम्बेडिंग्स पाइपलाइन) और qdrant_docker (वेक्टर डेटाबेस)। - **Agents**: hermes_agent (NousResearch एजेंट गेटवे), agent_exec (सैंडबॉक्स निष्पादन), agentgateway_docker, codex_runner (अलग Codex CLI उपयोगकर्ता)। - **LLM app platforms**: Dify, LangFlow, LangGraph, Langfuse, और Arize Phoenix (सभी Docker-आधारित)। - **Ops**: fabric_watchdog, एक systemd टाइमर जो Hermes गेस्ट से एजेंट फैब्रिक की जांच करता है और Slack पर अलर्ट भेजता है। डेवलपमेंट टूलिंग को Nix flake और direnv के माध्यम से प्रबंधित किया जाता है, जो ansible-core, ansible-lint, molecule, sops और संबंधित उपयोगिताओं को प्रदान करते हैं। व्यक्तिगत roles के लिए लिंटिंग और molecule-आधारित परीक्षण (Docker के साथ) उपलब्ध हैं। वर्तमान में केवल roles उपलब्ध कराए गए हैं; साइट-स्तरीय प्लेबुक और इन्वेंट्री लोडर भविष्य की योजनाएं हैं। यह प्रोजेक्ट conventional commits और git-flow ब्रांचिंग मॉडल (develop branch) का उपयोग करता है। यह Apache 2.0 के तहत लाइसेंस प्राप्त है।