MoziAI-35B est un LLM multimodal open source déployable localement avec une architecture MoE de 35B compressée à environ 15,9 Go via la quantification MoziSmartBit, offrant un contexte de 256K, la vision, l'appel d'outils et un cadre de raisonnement axé sur la finance.
OPEN SOURCE, OPEN TO EVERYONE
Code ouvert. Horizons nouveaux.
Découvrez des projets open source de qualité, soumettez des projets anonymement, puis revendiquez et éditez votre propre projet.
✳Sélection humaine · Découvrez de bons projets open source4109découverts
Un peu de curiosité. Un monde de code ouvert.
THE FIRST COLLECTIONTopic: moe清除
moziai-35b-a3b-moe-mtpchenyumo166
NOUVEAUvllmvllm-project
NOUVEAUvLLM est une bibliothèque à haut débit et à gestion efficace de la mémoire, conçue pour l'inférence et le service de grands modèles de langage (LLM).
llamafactoryhiyouga
NOUVEAULlamaFactory est un framework Python pour le fine-tuning efficace de plus de 100 grands modèles de langage et multimodaux, offrant une CLI sans code, une interface Web Gradio, LoRA/QLoRA et plusieurs algorithmes d'entraînement.
sglangsgl-project
NOUVEAUSGLang est un framework de service haute performance pour les grands modèles de langage (LLM) et les modèles multimodaux, conçu pour une inférence à faible latence et un débit élevé.