Об этом проекте
Jan — это настольное приложение с открытым исходным кодом, позиционируемое как локальная альтернатива ChatGPT. Согласно README, оно позволяет пользователям загружать и запускать большие языковые модели непосредственно на своем компьютере, делая акцент на полном контроле и конфиденциальности, а также полностью автономной работе.
Основные возможности, описанные в README:
- Локальные модели ИИ: загрузка и запуск LLM, таких как Llama, Gemma, Qwen и GPT-oss, с HuggingFace.
- Интеграция с облаком: опциональное подключение к моделям GPT через OpenAI, моделям Claude через Anthropic, а также к Mistral, Groq, MiniMax и другим.
- Пользовательские ассистенты: создание специализированных ИИ-ассистентов для конкретных задач.
- API, совместимое с OpenAI: локальный сервер, доступный по адресу localhost:1337, для использования другими приложениями.
- Интеграция с протоколом контекста модели (MCP) для агентных возможностей.
- Дизайн с приоритетом конфиденциальности: все процессы выполняются локально, если пользователь этого желает.
Установка доступна через готовые загрузки для Windows (jan.exe), macOS (jan.dmg) и Linux (deb, AppImage, а также руководство для Arm64), а также через Microsoft Store и Flathub. Проект также можно собрать из исходного кода; необходимые условия включают Node.js 20+, Yarn 4.5.3+, Make и Rust для Tauri, с целевыми объектами make для разработки, сборки, тестирования и очистки. Для сборки в Windows требуются Git Bash, Visual Studio 2022 Build Tools, LLVM, Ninja и CMake, а также опционально CUDA Toolkit для вариантов движка CUDA, выбираемых через переменную JAN_ENGINE_VARIANT.
Указанные системные требования упоминают macOS 13.6+ с рекомендациями по оперативной памяти в зависимости от размера модели (8 ГБ для 3B, 16 ГБ для 7B, 32 ГБ для 13B), Windows 10+ с поддержкой GPU NVIDIA/AMD/Intel Arc и большинство дистрибутивов Linux с опциональным ускорением на GPU. Проект лицензируется по Apache 2.0 и благодарит Llama.cpp, Tauri и Scalar за их вклад как основу. Документация, справочник API, журнал изменений, сообщество в Discord и трекер проблем на GitHub доступны для поддержки и участия в разработке.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.