Об этом проекте

Pezzo — это open-source облачная LLMOps-платформа, ориентированная на команды, создающие решения на базе больших языковых моделей. Согласно README, она предназначена для упрощения дизайна промптов, управления версиями, мгновенной доставки, совместной работы, отладки и наблюдаемости. Ключевые возможности, описанные в репозитории: - Управление промптами: создание, версионирование и управление промптами в одном месте с мгновенной доставкой изменений. - Наблюдаемость: наблюдение и мониторинг операций ИИ, а также устранение неполадок. - Кэширование: в README указано, что кэширование помогает экономить на затратах и снижать задержки. - Совместная работа: совместное управление промптами и изменениями в ИИ. Поддерживаемые клиенты, перечисленные в README, включают Node.js (@pezzo/client в npm), Python (в PyPI) и LangChain. Матрица возможностей показывает поддержку управления промптами, наблюдаемости и кэширования во всех этих клиентах. Проект приглашает создавать issues с запросами на дополнительные клиенты. Архитектура и развертывание: Pezzo описывается как полностью облачная платформа, основанная на open-source технологиях, включая PostgreSQL, ClickHouse, Redis и Supertokens. Документирована настройка Docker Compose для локального запуска полного стека, а также описан режим разработки с использованием Node.js 18+, Docker, Nx, миграций Prisma и генерации кода GraphQL. Сервер предоставляет health endpoint, а Pezzo Console работает как отдельное веб-приложение. Документация, учебные материалы и рецепты для различных сценариев использования и провайдеров LLM доступны на официальном сайте документации. Проект приветствует вклад сообщества через pull requests и issues, имеются CONTRIBUTING.md и кодекс поведения Contributor Covenant. Исходный код выпущен под лицензией Apache 2.0.