প্রকল্প সম্পর্কে

এই রিপোজিটরিটি Proxmox VM এবং LXC কন্টেইনারের উপর একটি হোমল্যাব AI/LLM ইনফ্রাস্ট্রাকচার তৈরির জন্য এক সেট Ansible roles প্রদান করে। এটি একটি বৃহত্তর ansible-proxmox-apps কালেকশন থেকে সংগৃহীত এবং বিশেষভাবে AI স্ট্যাকের উপর আলোকপাত করে। রোলগুলোকে কয়েকটি ফাংশনাল এরিয়াতে বিন্যস্ত করা হয়েছে: - **LLM serving**: ollama (মডেল সার্ভার), llama_cpp with llama-swap (GPU-tier), llm_router (OpenAI-কম্প্যাটিবল ফ্রন্ট ডোর হিসেবে LiteLLM প্রক্সি), এবং open_webui (চ্যাট ফ্রন্টএন্ড)। - **RAG**: llamaindex (Python + Ollama CPU-only embeddings পাইপলাইন) এবং qdrant_docker (ভেক্টর ডাটাবেস)। - **Agents**: hermes_agent (NousResearch এজেন্ট গেটওয়ে), agent_exec (স্যান্ডবক্সড এক্সিকিউশন), agentgateway_docker, codex_runner (আইসোলেটেড Codex CLI ইউজার)। - **LLM app platforms**: Dify, LangFlow, LangGraph, Langfuse, এবং Arize Phoenix (সবগুলো Docker-ভিত্তিক)। - **Ops**: fabric_watchdog, একটি systemd টাইমার যা Hermes গেস্ট থেকে এজেন্ট ফ্যাব্রিক প্রোপ করে এবং Slack-এর মাধ্যমে অ্যালার্ট পাঠায়। ডেভলপমেন্ট টুলিং Nix flake এবং direnv-এর মাধ্যমে ম্যানেজ করা হয়, যা ansible-core, ansible-lint, molecule, sops এবং সংশ্লিষ্ট ইউটিলিটি প্রদান করে। প্রতিটি রোলের জন্য লিন্টিং এবং molecule-ভিত্তিক টেস্টিং (Docker সহ) উপলব্ধ। বর্তমানে শুধুমাত্র রোলগুলো প্রদান করা হয়েছে; সাইট-লেভেল প্লেবুক এবং ইনভেন্টরি লোডার পরবর্তী ধাপে পরিকল্পনা করা হয়েছে। প্রজেক্টটি conventional commits এবং একটি git-flow ব্রাঞ্চিং মডেল (develop branch) ব্যবহার করে। এটি Apache 2.0 লাইসেন্সের অধীনে।