ओपन सोर्स। नई संभावनाएँ।

Colossal-AI एक ओपन-सोर्स सिस्टम है जो बड़े AI मॉडल को प्रशिक्षण और चलाने के लिए अधिक सस्ता और कुशल बनाता है, LLMs, डिफ्यूजन मॉडल और अन्य के लिए समानांतर प्रशिक्षण रणनीतियाँ, मेमोरी प्रबंधन और निष्कर्षण त्वरण प्रदान करता है।

Mithril एक बहु-मॉडल ऑर्केस्ट्रेशन इंजन है जो Gemini, OpenAI, Anthropic, Groq और स्थानीय GGUF मॉडलों को एक ही Ollama-संगत API के पीछे एकीकृत करता है। YAML में मल्टी-एजेंट टीमों को कॉन्फ़िगर करें, जिसमें 24 अंतर्निहित टूल, Docker समर्थन और MCP एकीकरण शामिल हैं।

Oumi एक ओपन-सोर्स प्लेटफ़ॉर्म है जो फाउंडेशन-मॉडल के पूरे जीवनचक्र को कवर करता है: डेटा तैयारी, प्रशिक्षण और फाइन-ट्यूनिंग (SFT, LoRA, QLoRA, GRPO), मूल्यांकन, LLM जज के साथ डेटा संश्लेषण, और vLLM/SGLang के माध्यम से तैनाती, साथ में CLI और क्लाउड जॉब लॉन्चिंग।

RunAnywhere एक क्रॉस-प्लेटफॉर्म SDK सूट है जो फोन, ब्राउज़र, डेस्कटॉप और सर्वर पर पूरी तरह से ऑन-डिवाइस AI मॉडल चलाने के लिए है। यह LLM, विजन, स्पीच, वॉयस एजेंट, RAG, एम्बेडिंग और इमेज जनरेशन को एक ही सेमैंटिक API के साथ सपोर्ट करता है।

MediaPipe Google का एक क्रॉस-प्लेटफॉर्म फ्रेमवर्क और लाइव व स्ट्रीमिंग मीडिया के लिए ऑन-डिवाइस मशीन लर्निंग समाधानों का सूट है, जो Android, iOS, वेब, डेस्कटॉप और एज डिवाइस पर विजन, टेक्स्ट और ऑडियो कार्यों को कवर करता है।