مصدر مفتوح. آفاق جديدة.

MoziAI-35B هو نموذج لغوي متعدد الوسائط مفتوح المصدر قابل للنشر محليًا بمعمارية MoE بحجم 35B مضغوط إلى حوالي 15.9 جيجابايت عبر تقنية MoziSmartBit، مع سياق 256K ورؤية واستدعاء أدوات وإطار استدلال مالي متخصص.

vLLM هي مكتبة عالية الإنتاجية وفعالة في استهلاك الذاكرة، مصممة لاستنتاج ونشر النماذج اللغوية الكبيرة (LLM).

LlamaFactory هو إطار عمل مفتوح المصدر بلغة Python لضبط دقيق لأكثر من 100 نموذج لغوي كبير ونموذج متعدد الوسائط، مع واجهة سطر أوامر وواجهة ويب Gradio، ودعم LoRA/QLoRA وخوارزميات تدريب متعددة.

SGLang هو إطار عمل عالي الأداء لتقديم النماذج اللغوية الكبيرة (LLMs) والنماذج متعددة الوسائط، مصمم لتحقيق استدلال يتميز بزمن وصول منخفض وإنتاجية عالية.