rig

Rig — это библиотека на Rust для создания масштабируемых, модульных и эргономичных приложений на базе LLM. Она предоставляет унифицированный интерфейс для более чем 20 поставщиков моделей и 10+ интеграций с векторными хранилищами, поддерживая рабочие процессы LLM completion, embedding, transcription, audio generation и image generation. Ключевые возможности включают агентные рабочие процессы с многоходовым стримингом, классический runtime агента, полную совместимость с GenAI Semantic Convention и интеграцию с минимальным boilerplate. Библиотека разделена на `rig-core` для провайдеро-нейтральных контрактов и `rig-agent` для оркестрации, при этом корневой фасад `rig` реэкспортирует оба. Она поддерживает browser-WASM для портируемого ядра и классического runtime. Интеграции включают AWS Bedrock, Google Vertex AI, LanceDB, Qdrant, MongoDB и другие, каждая за feature flag. Rig также предлагает возможности записи и воспроизведения через `rig::cassette` для тестирования и отладки. Используется такими компаниями, как St Jude, Coral Protocol и Nethermind.