اوپن سورس۔ نئے امکانات۔

جانو ایک ہلکا پھلکا OpenAI-compatible راؤٹر ہے جو ایک GPU پر متعدد مقامی LLMs کو مشترکہ استعمال کرنے میں مدد دیتا ہے۔ یہ مطالبات کو بچھانے اور ماڈل سوئپس کو کم کرکے وقت بچاتا ہے۔

Olla Nest ایک خود میزبانی شدہ، ایڈمن کنٹرول شدہ AI ورک اسپیس ہے جو مقامی Ollama ماڈلز اور کلاؤڈ فراہم کنندگان کو خودکار درخواست راؤٹر کے ساتھ یکجا کرتا ہے۔

Nexus Orchestrator ایک خود_hosted انجن ہے جو LLM درخواستوں کو پرامپٹ کے مقصد کے مطابق بہترین مقامی یا کلاؤڈ ماڈلز کی طرف ذہانت سے مڑتا ہے۔

سپرناکسس ایک اوپن اے آئی گیٹ وے ہے جو متعدد ایل ایل ایم فراہم کنندگان تک ایک ہی اے پی آئی کے ذریعے رسائی کو متحد کرتا ہے، جس سے اوپن اے آئی کے مطابق انٹرفیسز اور مرکزی ماڈل مینجمنٹ کے ساتھ ترقی کو آسان بناتا ہے۔

Hyperstrate Server ایک خود-hosted انٹرپرائز AI گیٹوی ہے جو ماڈل روٹنگ، فراہم کنندہ آرکیسٹریشن، اور پروڈکشن LLM ٹریفک کے لیے حکمرانی فراہم کرتا ہے۔

HALO Console ایک لوکل-فرسٹ AI وورک بینچ ہے جو Next.js اور TypeScript پر بنایا گیا ہے۔ یہ Ollama ماڈلز کے ساتھ اسٹریمنگ چیٹ، RAG، ماڈل راؤٹنگ اور صارف کی تخلیق کردہ نوٹس کی سہولت فراہم کرتا ہے — بالکل لوکل کنٹرول میں بغیر کلاؤڈ انحصار کے۔