عن المشروع
تقدم RunAnywhere ثمانية SDKs (Swift وKotlin وFlutter وReact Native وWeb وElectron وPython وCLI) مبنية على نواة C++ واحدة. تتيح التنبؤات الذكاء الاصطناعي المحلي دون اتصال عبر أجهزة متنوعة، وتوجه المكالمات إلى أفضل محرك متاح على كل جهاز.
**القدرات:**
- محادثة LLM مع تدفق الرموز، والتاريخ متعدد الدورات، ومحولات LoRA (Llama، Qwen، Gemma، Phi، DeepSeek، إلخ)
- نماذج لغة الرؤية (VLM) لفهم الصور وأسئلة الكاميرا
- تحويل الصوت إلى نص (Whisper، Moonshine) وتحويل النص إلى صوت (Piper، Kokoro، MeloTTS)
- سلسلة وكيل الصوت (VAD + STT + LLM + TTS)
- الهياكل المدمجة وRAG مع استيراد الوثائق المحلية وتدفقها
- إنشاء الصور عبر Stable Diffusion (Core ML) وإعادة تشكيل الصور (Hexagon NPU)
- إخراج JSON منظم واستدعاء أدوات مع حلقات وكيل
- مُحلل الإجراءات المستخدمة في الحواسيب (CUA)
**محركات التنبؤ:**
- QHexRT: بيئة التشغيل الخاصة بـ RunAnywhere لوحدات معالجة Qualcomm Hexagon NPUs (v75/v79/v81)، والتي تعمل على نماذج LLM وVLM والصوت وTTS مباشرة على وحدة المعالجة، بما في ذلك نماذج MoE و1-bit.
- MLX: التنبؤ الأصلي لـ Apple لـ LLM وVLM وSTT وTTS والهياكل المدمجة.
- llama.cpp: يعمل في أي مكان عبر Metal (Apple)، وCUDA (NVIDIA، اختياري)، وWebGPU/WASM (المستعرض)، ووحدة المعالجة (NEON/AVX).
- sherpa + ONNX: لتحويل الصوت وVAD والهياكل المدمجة عبر جميع المنصات.
- Core ML: لإنشاء الصور القائمة على التمايز على iOS/macOS.
**الميزات الإضافية:**
- وضع خادم متوافق مع OpenAI عبر SDK وCLI لـ Python، مما يعرض نقاط نهاية لـ chat completions والهياكل المدمجة وتحويل الصوت/الصوت والنموذج.
- لوحة تحكم RunAnywhere: منصة للتحكم في نشر النماذج عبر الهواء وجمع التلتمتري عبر أسطول الأجهزة.
- Connect (LAN): يسمح لجهاز macOS بالمشاركة في نموذج مُحمَّل مع عملاء iOS/Android عبر شبكة محلية موثوقة.
- واجهة برمجة تكتشف القدرات (capabilities()) تسمح للتطبيقات باستعلام ما يمكن للجهاز الحالي ومحركات التثبيت تنفيذه فعليًا.
نضج SDK يختلف: Swift وKotlin وrcli مستقرة؛ وFlutter وReact Native وWeb في المراجعة؛ وElectron في المقدمة؛ وPython في المرحلة الأولية.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.