প্রকল্প সম্পর্কে
Uteke হলো একটি লোকাল-ফার্স্ট মেমোরি ইঞ্জিন, যা ক্লাউড নির্ভরতা ছাড়াই AI এজেন্টদের স্থায়ী মেমোরি দেওয়ার জন্য ডিজাইন করা হয়েছে। এটি একটি একক Rust বাইনারি হিসেবে আসে, যার জন্য কোনো Python রানটাইম, API কী বা বাহ্যিক অবকাঠামো প্রয়োজন হয় না। প্রকল্পটি Claude Code, Cursor এবং Hermes-এর মতো MCP-সামঞ্জস্যপূর্ণ এজেন্টদের লক্ষ্য করে, এবং সরাসরি ব্যবহারের জন্য একটি CLI ও HTTP API-ও প্রদান করে।
মূল কার্যকারিতা হাইব্রিড সার্চকে কেন্দ্র করে: HNSW (usearch) মাধ্যমে ভেক্টর সাদৃশ্য এবং SQLite FTS5 পূর্ণ-পাঠ্য অনুসন্ধান, যা Reciprocal Rank Fusion-এর মাধ্যমে একত্রিত করা হয়। এটি অর্থ অনুসারে স্মরণের পাশাপাশি সঠিক কীওয়ার্ড দ্বারাও স্মরণ সম্ভব করে। এমবেডিং লোকালভাবে ONNX-এর মাধ্যমে চলে, একটি EmbeddingGemma Q4 768-মাত্রিক মডেল ব্যবহার করে, যা প্রথম রানে একবার ডাউনলোড হয়। README অনুযায়ী LongMemEval-S recall_any@5 হলো 98.2% এবং উষ্ণ কোয়েরি লেটেন্সি প্রায় 45 ms, প্রতি কোয়েরিতে শূন্য LLM টোকেন খরচ হয়।
উল্লেখযোগ্য বৈশিষ্ট্যগুলোর মধ্যে রয়েছে Rooms — লেখক অ্যাট্রিবিউশনসহ মাল্টি-এজেন্ট শেয়ার্ড মেমোরির জন্য, time-travel কোয়েরি যা অতীতের কোনো সময়ে মেমোরিগুলো যেমন ছিল তা স্মরণ করে, টাইপড এজসহ একটি রিলেশনশিপ গ্রাফ, স্মার্ট ডিকে ও স্যালিয়েন্স স্কোরিং, orphan ডিটেকশন, প্রায়-ডুপ্লিকেট মেমোরির consolidation, উইকি-স্টাইল নলেজ বেসের জন্য একটি ডকুমেন্ট ইঞ্জিন, ব্যাচ ইমপোর্ট, JSONL ইমপোর্ট/এক্সপোর্ট, এবং ভিউ-অনলি API কী। টিম বা রিমোট ডিপ্লয়মেন্টের জন্য একটি সার্ভার মোড এবং অফিসিয়াল Docker ইমেজ উপলব্ধ।
রিপোজিটরিতে LongMemEval-S-এর জন্য একটি বেঞ্চমার্ক হার্নেস রয়েছে, যেখানে কমিট করা কাঁচা আউটপুট ও পুনরুৎপাদনের নির্দেশনা আছে, পাশাপাশি লোকাল লেটেন্সি ও থ্রুপুট পরীক্ষার জন্য একটি বিল্ট-ইন `uteke bench` কমান্ড আছে। প্রকল্পটি Apache 2.0 লাইসেন্সের অধীনে এবং README অনুযায়ী সংস্করণ 0.19.0-এ রয়েছে।
Comments
0 people shared their preference · Deer Point appears after 10 participants
Sign in to join the discussion.