عن المشروع

Local OptiMind API هو بوابة مفتوحة المصدر تعمل محلياً تقوم بتوجيه طلبات LLM عبر عدة مزودي ذكاء اصطناعي (OpenAI، DeepSeek، Anthropic، Groq، Together، وLLMs المحلية) باستخدام نقطة نهاية واحدة متوافقة مع OpenAI. يقوم النظام باختيار المزود الأمثل لكل طلب بذكاء بناءً على أوضاع قابلة للتكوين: الأولوية للتكلفة، أو الأولوية للجودة، أو الوضع المتوازن. يتضمن النظام اكتشافاً تلقائياً للنماذج، وفئات تسعير مخصصة، وتتبعاً للحالة مع تراجع أسي (exponential backoff)، وتسجيلاً للطلبات، ودعماً لبث SSE. تتيح لوحة تحكم المسؤول إدارة المزودين، والنماذج، والتسعير، وعرض السجلات عبر واجهة مستخدم ويب. تتوفر عملاء (Clients) بلغات Python وJavaScript/TypeScript وGo وJava و.NET بواجهات برمجة تطبيقات متطابقة. يدعم الموجه التوجيه البديل (fallback routing) عند الفشل، واستنتاج النماذج بناءً على المهام عندما لا تتوفر تطابقات دقيقة، ويتكامل مع Docker لسهولة النشر. تتضمن البنية التحتية تصفية الحالة، ومطابقة النماذج، ومنطق تسجيل النقاط، وطبقات التنفيذ. يتم إدارة التكوين عبر متغيرات البيئة. المشروع مرخص بموجب رخصة MIT، والمساهمات مرحب بها لإضافة محولات مزودين جدد، وحساب الرموز (token counting)، واستراتيجيات التوجيه.