Об этом проекте
Dify — это open-source платформа для разработки LLM-приложений, созданная для оптимизации процесса от прототипирования до промышленной эксплуатации. Она предоставляет совместное рабочее пространство с рядом основных возможностей:
- Оркестрация воркфлоу: визуальный холст для создания и тестирования сложных AI-процессов.
- Управление моделями: интеграция с многочисленными проприетарными и open-source LLM (включая GPT, Mistral и Llama3) через различных провайдеров вывода.
- RAG Pipeline: инструменты для загрузки и поиска документов с поддержкой извлечения текста из PDF, PPT и других распространенных форматов.
- Возможности агентов: поддержка агентов на базе LLM Function Calling или ReAct, включая более 50 встроенных инструментов, таких как Google Search, DALL·E и WolframAlpha.
- Prompt IDE: интерфейс для создания промптов и сравнения производительности моделей.
- LLMOps: функции мониторинга логов приложений, анализа производительности и итеративного улучшения промптов и наборов данных.
- Backend-as-a-Service: API-доступ ко всем предложениям платформы для интеграции в существующую бизнес-логику.
Dify можно развернуть через Dify Cloud или установить самостоятельно с помощью Docker Compose.