MoziAI-35B é um LLM multimodal open-source implantável localmente, com arquitetura MoE de 35B comprimida para ~15,9 GB via quantização MoziSmartBit, oferecendo contexto de 256K, visão, chamada de ferramentas e um framework de raciocínio focado em finanças.
OPEN SOURCE, OPEN TO EVERYONE
Código aberto. Novas possibilidades.
Descubra projetos open source de qualidade, envie projetos anonimamente e reivindique e edite seu próprio projeto.
✳Seleção editorial · Descubra bons projetos open source4101descobertos
Um pouco de curiosidade. Um mundo de código aberto.
THE FIRST COLLECTIONTopic: moe清除
moziai-35b-a3b-moe-mtpchenyumo166
NOVOvllmvllm-project
NOVOvLLM é uma biblioteca de alta taxa de transferência e eficiência de memória projetada para inferência e serviço de Large Language Models (LLM).
llamafactoryhiyouga
NOVOO LlamaFactory é um framework Python para ajuste fino eficiente de mais de 100 modelos de linguagem e multimodais, oferecendo CLI sem código, interface Web Gradio, LoRA/QLoRA e vários algoritmos de treinamento.
sglangsgl-project
NOVOSGLang é um framework de serving de alta performance para modelos de linguagem extensos (LLMs) e modelos multimodais, projetado para inferência de baixa latência e alta vazão.