نیو API ایک خود میزبانی قابل LLM گیٹ وے ہے جو متعدد AI فراہم کنندگان کو یکجا کرتا ہے اور OpenAI، Claude اور Gemini API فارمیٹس کے درمیان تبدیلی کرتا ہے، نیز کثیر صارف کی توثیق، چینل روٹنگ، دوبارہ کوشش اور استعمال پر مبنی بلنگ شامل کرتا ہے۔
مصنوعی ذہانتذاتی ہوسٹنگAI gateways
LocalAI ایک اوپن سورس، سیلف ہوسٹڈ AI انجن ہے جو کسی بھی ہارڈویئر پر LLMs، وژن، آواز، امیج اور ویڈیو ماڈلز چلاتا ہے، بشمول CPU-only۔ یہ OpenAI، Anthropic اور ElevenLabs کے قابلِ قبول APIs، آن ڈیمانڈ ماڈیولر بیک اینڈز، ملٹی یوزر تصدیق، اور RAG اور MCP کے ساتھ بلٹ ان ایجنٹس پیش کرتا ہے۔
مصنوعی ذہانتذاتی ہوسٹنگModel runtime