ওপেন সোর্স। নতুন সম্ভাবনা।

Lociant হলো Android ফোন ও Rockchip বোর্ডের মতো এজ ডিভাইসের জন্য একটি লোকাল AI রানটাইম। এটি GGUF/llama.cpp-এর মাধ্যমে লোকাল মডেল ইনফারেন্স সক্ষম করে, ডিভাইস সক্ষমতাগুলোকে MCP টুল হিসেবে উন্মোচন করে এবং বহিঃস্থ অর্কেস্ট্রেশনের জন্য OpenAI-সামঞ্জস্যপূর্ণ কন্ট্রোল API প্রদান করে।