MoziAI-35B es un LLM multimodal de código abierto desplegable localmente, con arquitectura MoE de 35B comprimida a ~15,9 GB mediante la cuantización MoziSmartBit; ofrece contexto de 256K, visión, llamada de herramientas y un marco de razonamiento orientado a finanzas.
OPEN SOURCE, OPEN TO EVERYONE
Código abierto. Nuevas posibilidades.
Descubre proyectos de código abierto de calidad, envía proyectos de forma anónima y reclama y edita tu propio proyecto.
✳Selección editorial · Descubre buen código abierto4101descubiertos
Un poco de curiosidad. Un mundo de código abierto.
THE FIRST COLLECTIONTopic: moe清除
moziai-35b-a3b-moe-mtpchenyumo166
NUEVOvllmvllm-project
NUEVOvLLM es una biblioteca de alto rendimiento y eficiencia de memoria diseñada para la inferencia y el servicio de modelos de lenguaje extensos (LLM).
llamafactoryhiyouga
NUEVOLlamaFactory es un framework de Python para el ajuste fino eficiente de más de 100 modelos de lenguaje grandes y multimodales, con CLI sin código, interfaz web Gradio, LoRA/QLoRA y múltiples algoritmos de entrenamiento.
sglangsgl-project
NUEVOSGLang es un marco de servicio de alto rendimiento para modelos de lenguaje extensos (LLM) y modelos multimodales, diseñado para una inferencia de baja latencia y alto rendimiento.