اوپن سورس۔ نئے امکانات۔

Mithril ایک کھلا ذریعہ ملٹی ماڈل آرکیسٹریشن انجن ہے جو Gemini، OpenAI، Anthropic، Groq اور مقامی GGUF ماڈلز کو ایک Ollama-مطابق API میں یکجا کرتا ہے۔ YAML میں ملٹی ایجنٹ ٹیمیں ترتیب دیں، 24 بلٹ ان ٹولز، Docker سپورٹ اور MCP انٹیگریشن کے ساتھ۔

RunAnywhere ایک کراس-پلیٹ فارم SDK سویٹ ہے جو فونز، براؤزرز، ڈیسک ٹاپس، اور سرورز پر مکمل طور پر ڈیوائس پر AI ماڈلز کو چلانے کے لیے ہے۔ یہ ایک ہی سیمنٹک API کے ذریعے LLMs، ویژن، سپیچ، وائس ایجنٹس، RAG، ایمبیڈنگز، اور امیج جنریشن کو سپورٹ کرتا ہے۔