llms-from-scratchrasbt
NOUVEAUDépôt de code officiel pour « Build a Large Language Model (From Scratch) » : implémentation PyTorch pas à pas de modèles de type GPT, couvrant pré-entraînement et affinage avec notebooks et exercices.
OPEN SOURCE, OPEN TO EVERYONE
Code ouvert. Horizons nouveaux.
Découvrez des projets open source de qualité, soumettez des projets anonymement, puis revendiquez et éditez votre propre projet.
✳Sélection humaine · Découvrez de bons projets open source4109découverts
Un peu de curiosité. Un monde de code ouvert.
THE FIRST COLLECTIONTopic: pretraining清除
planckgptnguyenphuminh
NOUVEAUPlanckGPT est un petit modèle de langage GPT (~540M paramètres) conçu pour être entraîné de zéro sur un ordinateur portable grand public, avec pré-entraînement sur Fineweb-edu et affinage conversationnel.