عن المشروع

ODS (Osmantic Deployment System) هو حزمة خادم ذكاء اصطناعي ذاتي الاستضافة تستهدف الأشخاص الذين يرغبون في ذكاء اصطناعي خاص على أجهزتهم دون تجميع عشرات الخدمات يدويًا. المستودع حاليًا في حالة إصدار مسبق V3: اختبار عام وتحسين قبل إطلاق V3 الرسمي، مع لقطة مصدر مثبتة (v3.0.0) لضمان قابلية التكرار. يذكر ملف README أن التأهيل الكامل للأسطول غير مكتمل ويشير إلى ملاحظات الإصدار وسجل الترقية للقيود المعروفة والبوابات المتبقية. ما يشمله يقوم ODS بتثبيت وربط المكونات التي قد تُكوَّن بشكل منفصل. تشمل الأجزاء الموثقة: - استدلال النماذج المحلية عبر llama-server، مع اختيار النموذج بناءً على العتاد. - Open WebUI كواجهة دردشة متصفحية بأسلوب ChatGPT. - لوحة تحكم للنماذج والخدمات والإعداد وحالة GPU والإضافات، بالإضافة إلى واجهة برمجة تطبيقات للوحة التحكم. - LiteLLM كبوابة واجهة برمجة تطبيقات تدعم الأوضاع المحلية والسحابية والهجينة. - تضمينات TEI لسير عمل RAG والبحث. - الصوت: Whisper لتحويل الكلام إلى نص وKokoro لتحويل النص إلى كلام. - الوكلاء والأتمتة: Portal (مساعد محادثة مدمج على مضيفات macOS/Ubuntu/Debian المؤهلة مع systemd)، وHermes Agent، ووكيل OpenClaw المُهمل، وأتمتة سير العمل n8n، وAPE (محرك سياسة الوكلاء)، وOpenCode، وMemory Shepherd. - المعرفة والبحث: قاعدة بيانات المتجهات Qdrant، وبحث SearXNG ذاتي الاستضافة، وPerplexica، وتكامل اختياري مع واجهة برمجة تطبيقات Brave Search. - الإبداع: ComfyUI لتوليد الصور القائم على العقد. - الخصوصية والتشغيل: وكيل Privacy Shield لتنقية البيانات الشخصية، ومراقبة استخدام Token Spy، ومراقبة اختيارية عبر Langfuse. التثبيت والمنصات التثبيت يتم بأمر واحد على Linux/macOS عبر سكربت مستضاف، وكتلة PowerShell على Windows تقوم بتنزيل ملف ZIP المصدر وتشغيل مثبّت Windows. يجب تثبيت Docker وتشغيله؛ يتطلب Windows Docker Desktop مع خلفية WSL2 وجلسة PowerShell غير إدارية. بعد التثبيت، تكون واجهة الويب على localhost:3000. تُوفَّر أوامر إلغاء التثبيت لكل منصة. المنصات المدعومة وفقًا لملف README: Linux (NVIDIA وAMD Strix Halo)، وWindows (NVIDIA وAMD)، وmacOS Apple Silicon. Linux مع Intel Arc عبر SYCL مُعلَّم كتجريبي/مستوى C. التوزيعات المختبرة تشمل Ubuntu وDebian وLinux Mint وFedora وRocky Linux وArch وManjaro وCachyOS وopenSUSE Tumbleweed. يتطلب macOS Apple Silicon ويشغّل llama-server محليًا مع تسريع Metal بينما تعمل الخدمات الأخرى في Docker. اكتشاف العتاد والنماذج يكتشف المثبّت وحدة معالجة الرسومات، ويحدد مستوى العتاد، ويختار نموذجًا من كتالوج مُرقّم (model-library.json) بناءً على حدود الذاكرة. يُكتب الاختيار في ملف .env كمتغيرات LLM_MODEL وGGUF_FILE وMAX_CONTEXT وMODEL_RECOMMENDATION_*. تؤثر ملفات التعريف مثل MODEL_PROFILE=qwen أو gemma4 أو auto على العائلة المختارة، ويمكن تجاوز اختيار المستوى وقت التثبيت. يسرد ملف README أمثلة على اختيارات الكتالوج لـ NVIDIA وAMD Strix Halo وApple Silicon وIntel Arc، مع ملاحظة أن التثبيتات الفعلية قد تختلف وأن الإنتاجية تتطلب قياسًا محليًا. وضع التمهيد بشكل افتراضي، يقوم ODS بتنزيل نموذج صغير 1.5B أولاً ليتمكن المستخدمون من الدردشة بسرعة، ثم ينزّل النموذج الكامل في الخلفية ويبدّله تلقائيًا. يمكن تخطي التمهيد باستخدام --no-bootstrap. إدارة النماذج وواجهة الأوامر تغطي واجهة الأوامر ods CLI فحوصات الحالة والصحة، وقائمة الخدمات، والسجلات، وإعادة التشغيل، والبدء/الإيقاف، والتبديل بين الأوضاع المحلية/السحابية/الهجينة، وتبديل مستويات النماذج، وتمكين أو تعطيل الإضافات، وعرض الإعدادات المقنّعة، وحفظ أو تحميل الإعدادات المسبقة. يُوصف التراجع عن النموذج بأنه تلقائي إذا فشل تحميل نموذج جديد. قابلية التوسع تُعامل كل خدمة كإضافة: مجلد يحتوي على manifest.yaml وcompose.yaml، يُكتشف تلقائيًا بواسطة لوحة التحكم وواجهة الأوامر وفحوصات الصحة ومكدس compose. يُوصف المثبّت نفسه بأنه معياري، مع وحدات مكتبة، وسجل خدمات مشترك، ومراحل مرتبة. التموضع يُقدّم ملف README ODS كوسيلة لتجنب تجميع Ollama/llama.cpp وOpen WebUI وn8n وأدوات الخصوصية يدويًا، ويقارن نفسه بتلك المشاريع بإضافة حزمة خادم محيطة ومثبّت ولوحة تحكم. يؤكد على التشغيل المحلي أولاً مع أوضاع سحابية أو هجينة اختيارية، وينص على أن المطالبات والبيانات تبقى على الجهاز ما لم يختر المستخدم خلاف ذلك.