مصدر مفتوح. آفاق جديدة.

SGLang هو إطار عمل عالي الأداء لتقديم النماذج اللغوية الكبيرة (LLMs) والنماذج متعددة الوسائط، مصمم لتحقيق استدلال يتميز بزمن وصول منخفض وإنتاجية عالية.

jetson-inference هي مكتبة رؤية عميقة بلغة C++ و Python لأجهزة NVIDIA Jetson. تستخدم TensorRT للاستدلال على الجهاز و PyTorch للتدريب، مع أمثلة ونماذج مدربة مسبقًا ودروس تعليمية للتصنيف والكشف والتجزئة وتقدير الوضع والحركة والعمق وبث الكاميرا.

MediaPipe هو إطار عمل متعدد المنصات من Google ومجموعة حلول تعلم آلي على الجهاز للوسائط الحية والمتدفقة، ويغطي مهام الرؤية والنص والصوت على أندرويد وiOS والويب وسطح المكتب والأجهزة الطرفية.

YOLOv5 هو إطار عمل للتميز في مجال الرؤية الحاسوبية في PyTorch للالتقاط وتحديد الكائنات، وتجزئة التكوينات، وتحديد الصور. يدعم التدريب على مجموعات بيانات مخصصة، والتحليل من مصادر متنوعة، وتصدير النماذج إلى تنسيقات مثل ONNX، TensorRT، وCoreML.

كولوسال-أي هو نظام مفتوح المصدر لتدريب وتشغيل نماذج الذكاء الاصطناعي الكبيرة بشكل أرخص وأكثر كفاءة، ويقدم استراتيجيات تدريب متوازية، وإدارة للذاكرة، وتسريع الاستدلال لنماذج اللغات الكبيرة، ونماذج الانتشار، والمزيد.

vLLM هي مكتبة عالية الإنتاجية وفعالة في استهلاك الذاكرة، مصممة لاستنتاج ونشر النماذج اللغوية الكبيرة (LLM).

Mithril هو محرك تنسيق متعدد النماذج يوحّد Gemini وOpenAI وAnthropic وGroq ونماذج GGUF المحلية خلف واجهة برمجة تطبيقات واحدة متوافقة مع Ollama. يمكنك تكوين فرق متعددة الوكلاء في YAML، مع 24 أداة مدمجة، ودعم Docker، وتكامل MCP.

تنفيذ عالي الأداء بلغة C/C++ لاستنتاج نموذج OpenAI Whisper للتعرف التلقائي على الكلام (ASR)، مصمم للنشر الخفيف وعبر المنصات المختلفة.

Oumi منصة مفتوحة المصدر تغطي دورة حياة نماذج الأساس: إعداد البيانات، التدريب والضبط الدقيق (SFT، LoRA، QLoRA، GRPO)، التقييم، توليف البيانات، والنشر عبر vLLM/SGLang، مع واجهة سطر أوامر وإطلاق مهام سحابية.

مكتبة موحدة لخدمة نماذج اللغة والكلام والوسائط المتعددة، تدعم واجهات OpenAI ووحدات معالجة غير متجانسة ونشر موزع مع تكاملات متعددة.

إعادة تنفيذ سريعة لنموذج OpenAI Whisper باستخدام CTranslate2، مما يوفر سرعة تحويل أعلى واستهلاكاً أقل للذاكرة.

DeepSpeed هي مكتبة لتحسين التعلم العميق مصممة لجعل تدريب واستنتاج النماذج واسعة النطاق سهلاً وفعالاً ومؤثراً.

RunAnywhere هو مجموعة SDK متعددة المنصات لتشغيل نماذج الذكاء الاصطناعي بشكل كامل على الجهاز عبر الهواتف والمستعرضات وسطح المكتب والخوادم. يدعم نماذج LLM والرؤية والصوت والوكلاء الصوتيين وRAG والهياكل المدمجة وإنشاء الصور عبر واجهة برمجة واحدة.