rig

Rig est une bibliothèque Rust pour créer des applications LLM évolutives, modulaires et ergonomiques. Elle fournit une interface unifiée pour plus de 20 fournisseurs de modèles et plus de 10 intégrations de magasins de vecteurs, prenant en charge les workflows de complétion LLM, d'embedding, de transcription, de génération audio et de génération d'images. Les fonctionnalités clés incluent des workflows agentiques avec streaming multi-tours, un runtime d'agent classique, une compatibilité complète avec la sémantique GenAI, et une intégration avec un minimum de code passe-partout. La bibliothèque est divisée en `rig-core` pour les contrats neutres vis-à-vis des fournisseurs et `rig-agent` pour l'orchestration, avec la façade racine `rig` qui réexporte les deux. Elle prend en charge le WASM pour navigateur pour le cœur portable et le runtime classique. Les intégrations incluent AWS Bedrock, Google Vertex AI, LanceDB, Qdrant, MongoDB, et plus encore, chacune derrière un indicateur de fonctionnalité. Rig offre également des capacités d'enregistrement et de relecture via `rig::cassette` pour les tests et le débogage. Utilisé par des entreprises comme St Jude, Coral Protocol et Nethermind.