lilbee

lilbee est une pile d'IA locale en un seul exécutable. Il exécute et gère des modèles locaux (chat, embedding, vision, rerank) sur les GPU disponibles, et les utilise comme moteur de recherche conversationnel sur vos fichiers, notes, code et pages web crawlees, avec des réponses qui citent le fichier et la ligne exacts. Capacités clés décrites dans le README : - Gestion des modèles : construit sur llama.cpp, avec son propre gestionnaire de modèles et une flotte multi-GPU. Parcourez Hugging Face, téléchargez des modèles, attribuez des rôles et exécutez-les sur Metal, Vulkan, CUDA ou ROCm. Il ne nécessite pas Ollama ni LM Studio, mais peut pointer vers une installation existante. - Interfaces : interface terminal (TUI), CLI, serveur Model Context Protocol (MCP) pour les agents de codage, API HTTP/REST et bibliothèque Python. Un plugin communautaire Obsidian expose le même moteur dans un vault. - Ingestion et recherche : indexe les fichiers et le code locaux, et inclut un crawler web qui ajoute des sites à la bibliothèque. Les réponses sont citées vers leurs emplacements sources. - Confidentialité : fichiers, index, embeddings, questions et réponses restent sur la machine ; pas de télémétrie, pas de compte et pas d'appels cloud sauf si un modèle cloud est configuré. - Canaux d'installation : binaires autonomes plus Homebrew, AUR, Nix, Docker (GHCR), Flatpak, Snap, Scoop et lanceurs npm, ainsi que pip/uv pour les développeurs. Des builds spécifiques aux fournisseurs existent pour NVIDIA CUDA, AMD ROCm et les CPU pré-AVX2 (build compat). - Plateformes : macOS, Linux et Windows. Les builds Linux incluent le loader Vulkan ; la détection GPU nécessite que le loader Vulkan du système soit installé. - OCR optionnel pour les PDF scannés et les images via Tesseract ou un modèle de vision GGUF. Le projet est explicitement étiqueté bêta active : les versions sur PyPI sont des pré-versions nécessitant `--pre`, et les interfaces, noms de commandes et formats sur disque peuvent changer entre les bêtas.