rig

Rig 是一个 Rust 库，用于构建可扩展、模块化且符合人体工程学的 LLM 驱动应用。它为 20 多个模型提供商和 10 多个向量存储集成提供统一接口，支持 LLM 补全、嵌入、转录、音频生成和图像生成工作流。主要特性包括支持多轮流式传输的智能体工作流、经典智能体运行时、完全兼容 GenAI 语义约定，以及极少的样板代码集成。该库分为用于提供商中立契约的 `rig-core` 和用于编排的 `rig-agent`，根级 `rig` 外观重新导出两者。它支持浏览器 WASM，用于可移植核心和经典运行时。集成包括 AWS Bedrock、Google Vertex AI、LanceDB、Qdrant、MongoDB 等，每个都位于功能标志之后。Rig 还通过 `rig::cassette` 提供录制和回放功能，用于测试和调试。St Jude、Coral Protocol 和 Nethermind 等公司都在使用它。