منصوبے کے بارے میں

یہ ریپوزٹری Proxmox VMs اور LXC کنٹینرز پر ہوم لیب AI/LLM انفراسٹرکچر بنانے کے لیے Ansible roles کا ایک سیٹ فراہم کرتی ہے۔ اسے ایک بڑے ansible-proxmox-apps کلیکشن سے نکالا گیا ہے اور یہ خاص طور پر AI اسٹیک پر مرکوز ہے۔ ان roles کو کئی فنکشنل حصوں میں تقسیم کیا گیا ہے: - **LLM serving**: ollama (ماڈل سرور)، llama_cpp مع llama-swap (GPU-tier)، llm_router (OpenAI کے مطابق فرنٹ ڈور کے طور پر LiteLLM پراکسی)، اور open_webui (چیٹ فرنٹ اینڈ)۔ - **RAG**: llamaindex (Python + Ollama CPU-only embeddings پائپ لائن) اور qdrant_docker (ویکٹر ڈیٹا بیس)۔ - **Agents**: hermes_agent (NousResearch ایجنٹ گیٹ وے)، agent_exec (سینڈ باکسڈ ایگزیکیوشن)، agentgateway_docker، codex_runner (علیحدہ Codex CLI صارف)۔ - **LLM app platforms**: Dify، LangFlow، LangGraph، Langfuse، اور Arize Phoenix (تمام Docker پر مبنی)۔ - **Ops**: fabric_watchdog، ایک systemd ٹائمر جو Hermes گیسٹ سے ایجنٹ فیبرک کی جانچ کرتا ہے اور Slack کے ذریعے الرٹ بھیجتا ہے۔ ڈیولپمنٹ ٹولنگ کو Nix flake اور direnv کے ذریعے مینیج کیا جاتا ہے، جو ansible-core، ansible-lint، molecule، sops اور متعلقہ یوٹیلیٹیز فراہم کرتے ہیں۔ انفرادی roles کے لیے لنٹنگ اور molecule-بیسڈ ٹیسٹنگ (Docker کے ساتھ) دستیاب ہیں۔ فی الحال صرف roles فراہم کیے گئے ہیں؛ سائٹ لیول پلے بک اور انوینٹری لوڈر مستقبل کے منصوبوں میں شامل ہیں۔ یہ پروجیکٹ conventional commits اور git-flow برانچنگ ماڈل (develop branch) استعمال کرتا ہے۔ یہ Apache 2.0 کے تحت لائسنس شدہ ہے۔