Об этом проекте
LocalGPT — это локальный ИИ-ассистент с открытым исходным кодом, написанный на Rust и распространяемый как один бинарный файл без требований к Node.js, Docker или Python. Он включает два основных компонента: ИИ-ассистента и инструмент для создания миров.
ИИ-ассистент (localgpt)
- Интерфейсы: интерактивный CLI-чат, режим одиночного вопроса и демон, предоставляющий встроенный веб-интерфейс и HTTP API (чат, потоковый чат через SSE, поиск по памяти).
- Постоянная память: рабочее пространство на основе Markdown с MEMORY.md, HEARTBEAT.md (очередь автономных задач), SOUL.md (руководство по личности) и банком знаний. Файлы индексируются с помощью SQLite FTS5 для поиска по ключевым словам и sqlite-vec для семантического поиска с использованием локальных эмбеддингов.
- Автономный heartbeat: задачи могут делегироваться и выполняться в фоновом режиме.
- Провайдеры: LM Studio, Ollama, Anthropic, OpenAI, xAI, GLM, Vertex AI и CLI-провайдеры; конфигурация хранится в config.toml с путями, совместимыми с XDG.
- Безопасность: песочница на уровне ядра (Landlock/seccomp на Linux, Seatbelt на macOS), защищенный POLICY.md с постоянными инструкциями и защита от prompt-инъекций, включая удаление маркеров и границы контента.
Режим Gen (localgpt-gen)
- Создает исследуемые 3D-миры из текстовых запросов на движке Bevy.
- Поддерживает параметрические формы (box, sphere, cylinder, capsule, plane, torus, pyramid, tetrahedron, icosahedron, wedge), PBR-материалы, точечное/прожекторное/направленное освещение, поведение (orbit, spin, bob, look_at, pulse, path_follow, bounce) и фоновое или пространственное аудио.
- Экспортирует glTF/GLB, HTML для просмотра в браузере и скриншоты; миры можно сохранять и загружать как переиспользуемые навыки.
- Безголовый режим и очередь экспериментов позволяют генерировать пакетно без окна, что полезно для ночных запусков или CI-конвейеров; система памяти изучает стилевые предпочтения между сессиями.
- MCP-сервер позволяет использовать Gen из Claude Desktop, Codex Desktop и MCP-совместимых редакторов, таких как VS Code, Zed и Cursor, с CLI-релейным режимом для инструментов командной строки.
Установка осуществляется через crates.io (cargo install localgpt-gen, cargo install localgpt) или из исходников с помощью cargo run. Проект лицензирован под Apache-2.0 и построен на Rust, Tokio, Axum, Bevy, SQLite (FTS5 + sqlite-vec), fastembed и eframe.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.