lilbee

lilbee es una pila de IA local de un solo ejecutable. Ejecuta y gestiona modelos locales (chat, embeddings, visión, rerank) en las GPUs disponibles, y los utiliza como motor de búsqueda conversacional sobre tus archivos, notas, código y páginas web rastreadas, con respuestas que citan el archivo y la línea exactos. Capacidades clave descritas en el README: - Gestión de modelos: basado en llama.cpp, con su propio gestor de modelos y flota multi-GPU. Explora Hugging Face, descarga modelos, asigna roles y ejecútalos en Metal, Vulkan, CUDA o ROCm. No requiere Ollama ni LM Studio, pero puede apuntar a una configuración existente. - Interfaces: interfaz de terminal, CLI, servidor de Protocolo de Contexto de Modelo (MCP) para agentes de codificación, API HTTP/REST y biblioteca Python. Un plugin comunitario de Obsidian expone el mismo motor dentro de una bóveda. - Ingestión y búsqueda: indexa archivos locales y código, e incluye un rastreador web que añade sitios a la biblioteca. Las respuestas se citan de vuelta a las ubicaciones de origen. - Privacidad: archivos, índice, embeddings, preguntas y respuestas permanecen en la máquina; sin telemetría, sin cuenta y sin llamadas en la nube a menos que se configure un modelo en la nube. - Canales de instalación: binarios independientes más lanzadores Homebrew, AUR, Nix, Docker (GHCR), Flatpak, Snap, Scoop y npm, así como pip/uv para desarrolladores. Existen compilaciones específicas para NVIDIA CUDA, AMD ROCm y CPUs pre-AVX2 (compilación compatible). - Plataformas: macOS, Linux y Windows. Las compilaciones de Linux incluyen el cargador de Vulkan; la detección de GPU requiere el cargador de Vulkan del sistema instalado. - OCR opcional para PDFs escaneados e imágenes mediante Tesseract o un modelo de visión GGUF. El proyecto está explícitamente etiquetado como beta activa: los lanzamientos en PyPI son pre-lanzamientos que requieren `--pre`, y las interfaces, nombres de comandos y formatos en disco pueden cambiar entre betas.