عن المشروع

نيدل هو بنية نموذج أساسي متخصصة مصممة للنشر على الأجهزة الصغيرة، بما في ذلك المتحكمات الدقيقة والروبوتات وأجهزة المنزل الذكي والمنصات المحمولة. يستخدم النموذج بنية "شبكة انتباه بسيطة متدرجة"، مما يمكّنه من العمل بفعالية ببصمة لا تتجاوز 8-29 ميغابايت. وهو مُحسَّن لثلاث مهام رئيسية: استدعاء الأدوات، واستخراج البيانات المهيكلة، والتضمين النصي. تشمل الميزات الرئيسية: - استدعاء الأدوات: يمكن للنموذج تحليل الطلبات باللغة الطبيعية لتفعيل وظائف محددة بالوسائط الصحيحة، وإرجاع قوائم فارغة بدلاً من التخمينات للاستعلامات غير المدعومة. - الاستخراج المهيكل: يحوّل النص غير المهيكل إلى حقول JSON محددة النوع، وهو مفيد لمعالجة الفواتير أو النماذج أو الإشعارات. - التضمين النصي: يوفر تمثيلات متجهية لمهام البحث المحلي والتوجيه. - قابلية التوسع: تدعم البنية "سلماً" من الأعماق (من 2 إلى 20 طبقة)، مما يسمح للمطورين باختيار حجم النموذج الأمثل لقيود الأجهزة الخاصة بهم. - الضبط الدقيق: يدعم كلاً من الضبط الدقيق المحلي القائم على LoRA والضبط الدقيق الكامل للنموذج عبر المنصة لتحسين الأداء في المهام الخاصة بالمجال. - النشر: يتضمن محركاً خفيفاً (أقل من 1 ميغابايت) لمنصات متعددة، بما في ذلك macOS وLinux وWASI، مع دعم البيئات المعزولة عن الشبكة.