Об этом проекте

lilbee — это локальный AI-стек в одном исполняемом файле. Он запускает локальные модели (чат, embedding, vision, rerank) и управляет ими на доступных GPU, а затем использует их как диалоговую поисковую систему по вашим файлам, заметкам, коду и просканированным веб-страницам, причём ответы содержат ссылки на конкретный файл и строку. Ключевые возможности, описанные в README: - Управление моделями: построено на llama.cpp, имеет собственный менеджер моделей и мульти-GPU-парк. Просматривайте Hugging Face, скачивайте модели, назначайте роли и запускайте их на Metal, Vulkan, CUDA или ROCm. Ollama или LM Studio не требуются, но можно указать на уже существующую установку. - Интерфейсы: терминальный UI, CLI, сервер Model Context Protocol (MCP) для кодинг-агентов, HTTP/REST API и Python-библиотека. Плагин сообщества Obsidian предоставляет тот же движок внутри хранилища. - Приём и поиск: индексирует локальные файлы и код, а также включает веб-краулер, который добавляет сайты в библиотеку. Ответы содержат ссылки на исходные местоположения. - Приватность: файлы, индекс, эмбеддинги, вопросы и ответы остаются на машине; никакой телеметрии, никакой учётной записи и никаких облачных вызовов, если только не настроена облачная модель. - Каналы установки: автономные бинарные файлы, а также Homebrew, AUR, Nix, Docker (GHCR), Flatpak, Snap, Scoop и лаунчеры npm, а также pip/uv для разработчиков. Существуют сборки для конкретных производителей: NVIDIA CUDA, AMD ROCm и процессоров до AVX2 (compat-сборка). - Платформы: macOS, Linux и Windows. Сборки для Linux включают загрузчик Vulkan; для обнаружения GPU требуется установленный в системе загрузчик Vulkan. - Опциональный OCR для отсканированных PDF-файлов и изображений через Tesseract или GGUF vision-модель. Проект явно помечен как активная бета-версия: релизы на PyPI являются предварительными и требуют `--pre`, а интерфейсы, имена команд и форматы на диске могут меняться между бета-версиями.