عن المشروع
NobodyWho هو محرك استدلال يتيح لك تشغيل نماذج اللغة الكبيرة (LLMs) محليًا وبكفاءة على أي جهاز. يدعم تشغيل أي نموذج محادثة LLM بصيغة GGUF، بما في ذلك Gemma وQwen وMistral، مع تسريع GPU عبر Vulkan أو Metal. تشمل الميزات الرئيسية استدعاء الأدوات السريع والآمن من حيث النوع مع قواعد منظمة تُولَّد تلقائيًا، والمدخلات متعددة الوسائط (الصور والصوت)، وتحويل النص إلى كلام، وتحويل الكلام إلى نص، وكشف النشاط الصوتي. يمكن تنزيل النماذج مباشرة من Hugging Face أو أي URL. المحرك مبني بلغة Rust مع ارتباطات لـ Kotlin وSwift وReact Native/Expo وFlutter وPython وGodot، كما يوفر خادمًا محليًا تجريبيًا يطبق OpenAI Chat Completions API. يعمل على سطح المكتب (Linux وmacOS وWindows) وAndroid وiOS وvisionOS وwatchOS، مع متطلبات ذاكرة تبلغ نحو 1.5 ضعف حجم ملف النموذج على سطح المكتب و2 ضعف على الأجهزة المحمولة. المشروع مرخص بموجب EUPL-1.2، مما يسمح بالاستخدام في المشاريع الاحتكارية والتجارية.
Comments
0 people shared their preference · Deer Point appears after 10 participants
Sign in to join the discussion.