txtai

txtai — это всеобъемлющая платформа для ИИ, предназначенная для создания приложений семантического поиска, оркестрации LLM и сложных конвейеров языковых моделей. В её основе лежит база данных эмбеддингов, которая объединяет векторные индексы (разреженные и плотные), графовые сети и реляционные базы данных, обеспечивая основу для векторного поиска и источников знаний для приложений на базе больших языковых моделей (LLM). Ключевые возможности включают: - Векторный поиск: поддерживает SQL, объектное хранилище, тематическое моделирование, графовый анализ и мультимодальную индексацию для текста, документов, аудио, изображений и видео. - Оркестрация LLM: инструменты для построения автономных агентов, процессов Retrieval Augmented Generation (RAG) и многомодельных конвейеров. - Конвейеры и рабочие процессы: готовые конвейеры для таких задач, как ответы на вопросы, классификация, транскрипция, перевод и суммаризация, которые можно объединять в более сложные бизнес-процессы. - Агенты: интеллектуальные агенты, построенные на основе фреймворка smolagents, которые связывают эмбеддинги и конвейеры для решения комплексных задач. - API и интеграция: предоставляет Web API и Model Context Protocol (MCP) с привязками для JavaScript, Java, Rust и Go. Фреймворк создан с использованием Python 3.10+, Hugging Face Transformers, Sentence Transformers и FastAPI.