इस प्रोजेक्ट के बारे में

Lociant एक एंड्रॉयड-नेटिव लोकल AI रनटाइम है जो कम-पावर, हमेशा-ऑन एज डिवाइसों—जैसे एंड्रॉयड फोन, Rockchip बोर्ड और छोटे Linux सिस्टम—to नियंत्रित एज नोड में बदलने के लिए डिज़ाइन किया गया है। यह क्लाउड के बजाय डिवाइस पर ही निष्पादन और नीति रखते हुए स्थानीय मॉडल निष्पादन, हार्डवेयर-आधारित डिवाइस क्षमताओं और प्रमाणीकृत LAN कनेक्शन सक्षम बनाता है। प्रोजेक्ट GGUF मॉडल आयात और llama.cpp के माध्यम से स्थानीय रूप से इनफरेंस चलाने का समर्थन करता है। डिवाइस क्षमताओं में स्क्रीन नियंत्रण, सुलभता सुविधाएं, कैमरा एक्सेस, सेंसर, फ़ाइल ऑपरेशन और प्रक्रिया प्रबंधन शामिल हैं जहां अनुमतियां सक्षम हों। बाहरी क्लाइंट MCP Streamable HTTP या पोर्ट 11434 पर सेवा दी गई नियंत्रण API के माध्यम से कनेक्ट कर सकते हैं। समर्थित डिवाइस भूमिकाएँ: - Android फोन: Flutter कंसोल, Rust बैकएंड और Kotlin डिवाइस परत के साथ पूर्ण एज नोड - Rockchip बोर्ड: Rust सर्विस, RKLLM NPU रनटाइम और टर्मिनल TUI के साथ हेडलेस एज नोड - Linux डेस्कटॉप: ग्राफिकल कंट्रोलर और विकास होस्ट आर्किटेक्चर मॉडल इन्वेंटरी, टूल रजिस्ट्री, पीयर नेटवर्किंग और नीति प्रणाली के लिए एक साझा Rust बैकएंड का उपयोग करता है। GGUF इनफरेंस स्थानीय llama.cpp प्रक्रिया के रूप में चलता है, NCNN एंड्रॉयड पर कैमरा और विजन ऑपरेशंस संभालता है, और समर्थित Rockchip बोर्डों पर RKLLM का उपयोग किया जाता है। टूल एक्सपोज़र एक क्रमिक अनुमति मॉडल (रीड, सेंसर, एक्शन) का पालन करता है, और निष्पादन से पहले हर टूल के लिए remoteAllowed नीति जांची जाती है। रनटाइम कोई चैट UI या सामान्य-उद्देश्य एजेंट लूप प्रदान नहीं करता; इसके बजाय, यह एक नियंत्रित क्षमता परत के रूप में कार्य करता है जिसे क्लाउड या डेस्कटॉप क्लाइंट ऑर्केस्ट्रेट सकते हैं। रेपॉजिटरी के apps डायरेक्टरी में बिल्ड और रन विवरण उपलब्ध हैं, जिनमें Flutter UI, Rust बैकएंड और Android डिवाइस परत के लिए अलग-अलग घटक हैं।