Открытый код. Новые возможности.

Khoj — открытое саморазвёртываемое AI-приложение для личного помощника: подключение к локальным и облачным LLM, поиск по документам и вебу, агенты, автоматизация и семантический поиск на всех платформах.

Xinference — это унифицированная библиотека инференса для обслуживания языковых, речевых и мультимодальных моделей. Она предоставляет OpenAI-совместимый RESTful API, гетерогенное использование GPU/CPU, распределённое развертывание и интегрируется с LangChain, LlamaIndex, Dify и Chatbox.

Jan — это приложение с открытым исходным кодом для запуска больших языковых моделей локально, обеспечивающее конфиденциальность и автономную работу, с возможностью подключения к облачным провайдерам и локальным API, совместимым с OpenAI.

RunAnywhere — это кроссплатформенный набор SDK для запуска моделей ИИ полностью на устройстве: на телефонах, в браузерах, на десктопах и серверах. Он поддерживает LLM, компьютерное зрение, речь, голосовых агентов, RAG, эмбеддинги и генерацию изображений через единый семантический API.

Открытый движок симуляции ролевых игр на основе LLM, созданный как Electron/NodeJS приложение. Включает постоянное состояние мира, динамическую эволюцию персонажей, скриптовое поведение и совместимость с любыми языковыми моделями.

Открытое настольное приложение‑компаньон AI с аватарами Live2D/VRM, голосовым чатом, поддержкой локальных LLM, движком настольных ролевых игр и возможностями автономного настольного агента. По умолчанию работает полностью локально.

Otaku — бесплатный локальный фронтенд LLM для ролевых игр, предлагающий веб‑ и терминальный интерфейсы. Он поддерживает локальные и облачные LLM, управляет длинным контекстом через сценарные резюме и импортирует чаты и карточки персонажей SillyTavern.