rig

Rig é uma biblioteca Rust para criar aplicações escaláveis, modulares e ergonômicas com LLM. Ela fornece uma interface unificada para mais de 20 provedores de modelos e 10+ integrações de armazenamentos vetoriais, com suporte a fluxos de conclusão de LLM, embedding, transcrição, geração de áudio e geração de imagens. Os principais recursos incluem fluxos agênticos com streaming multiturno, um runtime de agente clássico, compatibilidade total com GenAI Semantic Convention e integração com mínimo boilerplate. A biblioteca é dividida em `rig-core` para contratos neutros em relação ao provedor e `rig-agent` para orquestração, com a fachada raiz `rig` reexportando ambos. Ela suporta browser-WASM para o núcleo portátil e o runtime clássico. As integrações incluem AWS Bedrock, Google Vertex AI, LanceDB, Qdrant, MongoDB e mais, cada uma atrás de uma feature flag. Rig também oferece recursos de gravação e reprodução via `rig::cassette` para testes e depuração. É usada por empresas como St Jude, Coral Protocol e Nethermind.