منصوبے کے بارے میں

Lociant ایک اینڈرائیڈ-نیٹو مقامی AI رن ٹائم ہے جو کم طاقت، ہمیشہ آن رہنے والے ایج ڈیوائسز—جیسے اینڈرائیڈ فونز، Rockchip بورڈز اور چھوٹے لینکس سسٹمز—کو کنٹرول شدہ ایج نوڈز میں بدلنے کے لیے بنایا گیا ہے۔ یہ مقامی ماڈل ایگزیکشن، ہارڈویئر پر مبنی ڈیوائس صلاحیتوں، اور تصدیق شدہ LAN کنکشنز کو ممکن بناتا ہے جبکہ ایگزیکشن اور پالیسی ڈیوائس پر ہی رکھتا ہے نہ کہ کلاؤڈ میں۔ پروجیکٹ GGUF ماڈلز کو ایمپورٹ کرنے اور llama.cpp کے ذریعے مقامی طور پر انفرنس چلانے کی حمایت کرتا ہے۔ ڈیوائس صلاحیتوں میں اسکرین کنٹرول، ایکسسبلٹی فیچرز، کیمرہ رسائی، سینسرز، فائل آپریشنز، اور پروسیس مینجمنٹ شامل ہیں جہاں اجازتیں موجود ہوں۔ بیرونی کلائنٹس MCP Streamable HTTP یا پورٹ 11434 پر سرور کنٹرول API کے ذریعے جڑ سکتے ہیں۔ حمایت یافتہ ڈیوائس رولز: - اینڈرائیڈ فون: Flutter کنسول، Rust بیک اینڈ، اور Kotlin ڈیوائس تہہ کے ساتھ مکمل ایج نوڈ - Rockchip بورڈ: Rust سروس، RKLLM NPU رن ٹائم، اور ٹرمینل TUI کے ساتھ ہیڈ لیس ایج نوڈ - لینکس ڈسک ٹاپ: گرافیکل کنٹرولر اور ڈویلپمنٹ ہوسٹ آرکی ٹیکچر ماڈل انوینٹری، ٹول رجسٹری، پئیر نیٹ ورکنگ، اور پالیسی انفرسمنٹ کے لیے شیئرڈ Rust بیک اینڈ استعمال کرتا ہے۔ GGUF انفرنس مقامی llama.cpp پراسیس کے طور پر چلتا ہے، NCNN اینڈرائیڈ پر کیمرہ اور ویژن آپریشنز سنوراتا ہے، اور RKLLM حمایت یافتہ Rockchip بورڈز پر استعمال ہوتا ہے۔ ٹول ایکسپوژر ایک جمع اجازت ماڈل (ریڈ، سینسر، ایکشن) کی پیروی کرتا ہے، اور ہر ٹول پر ایگزیکشن سے پہلے remoteAllowed پالیسی چیک کی جاتی ہے۔ رن ٹائم چاٹ UI یا جنرل پرتس ایجنٹ لوپ فراہم نہیں کرتا؛ اس کے بجائے یہ ایک کنٹرول شدہ صلاحیت کی تہہ کے طور پر کام کرتا ہے جسے کلاؤڈ یا ڈسک ٹاپ کلائنٹ آرکسٹریٹ کر سکتے ہیں۔ بلڈ اور رن تفصیلات ریپوزٹری کے apps ڈائریکٹوری میں دستیاب ہیں، جن میں Flutter UI، Rust بیک اینڈ، اور اینڈرائیڈ ڈیوائس تہہ کے لیے الگ اجزاء موجود ہیں۔