প্রকল্প সম্পর্কে

Rig হলো Rust লাইব্রেরি, যা স্কেলযোগ্য, মডুলার এবং ergonomic LLM-চালিত অ্যাপ্লিকেশন তৈরির জন্য ব্যবহৃত হয়। এটি ২০টিরও বেশি মডেল প্রোভাইডার এবং ১০+ ভেক্টর স্টোর ইন্টিগ্রেশনের জন্য একটি একীভূত ইন্টারফেস প্রদান করে, যা LLM completion, embedding, transcription, audio generation এবং image generation ওয়ার্কফ্লো সমর্থন করে। প্রধান বৈশিষ্ট্যগুলোর মধ্যে রয়েছে multi-turn streaming সহ agentic workflows, একটি classic agent runtime, সম্পূর্ণ GenAI Semantic Convention compatibility এবং ন্যূনতম boilerplate integration। লাইব্রেরিটি provider-neutral contract-এর জন্য `rig-core` এবং orchestration-এর জন্য `rig-agent`-এ বিভক্ত, যেখানে root `rig` facade উভয়ই re-export করে। এটি portable core এবং classic runtime-এর জন্য browser-WASM সমর্থন করে। ইন্টিগ্রেশনগুলোর মধ্যে রয়েছে AWS Bedrock, Google Vertex AI, LanceDB, Qdrant, MongoDB এবং আরও অনেক কিছু, যার প্রতিটি একটি feature flag-এর পেছনে রয়েছে। Rig টেস্টিং ও ডিবাগিংয়ের জন্য `rig::cassette`-এর মাধ্যমে recording এবং replay ক্ষমতাও প্রদান করে। এটি St Jude, Coral Protocol এবং Nethermind-এর মতো কোম্পানিগুলো ব্যবহার করে।