このプロジェクトについて
このリポジトリは、ProxmoxのVMおよびLXCコンテナ上にホームラボAI/LLMインフラストラクチャを構築するためのAnsibleロールセットを提供します。これは、より大規模なansible-proxmox-appsコレクションから抽出され、特にAIスタックに焦点を当てたものです。
ロールは以下の機能領域に整理されています:
- **LLM serving**: ollama(モデルサーバー)、llama_cpp with llama-swap(GPUティア)、llm_router(OpenAI互換のフロントドアとしてのLiteLLMプロキシ)、およびopen_webui(チャットフロントエンド)。
- **RAG**: llamaindex(Python + Ollama CPUのみの埋め込みパイプライン)およびqdrant_docker(ベクトルデータベース)。
- **Agents**: hermes_agent(NousResearchエージェントゲートウェイ)、agent_exec(サンドボックス実行)、agentgateway_docker、codex_runner(分離されたCodex CLIユーザー)。
- **LLM app platforms**: Dify, LangFlow, LangGraph, Langfuse, および Arize Phoenix(すべてDockerベース)。
- **Ops**: fabric_watchdog(Hermesゲストからエージェントファブリックをプローブし、Slack経由で通知するsystemdタイマー)。
開発ツールはNix flakeとdirenvを介して管理されており、ansible-core, ansible-lint, molecule, sops、および関連ユーティリティを提供します。個々のロールに対して、リンティングおよびmoleculeベースのテスト(Docker使用)が利用可能です。現在はロールのみが提供されており、サイトレベルのプレイブックとインベントリローダーが今後の計画として予定されています。本プロジェクトはconventional commitsとgit-flowブランチモデル(developブランチ)を採用しています。ライセンスはApache 2.0です。
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.