Dépôt de code officiel pour « Build a Large Language Model (From Scratch) » : implémentation PyTorch pas à pas de modèles de type GPT, couvrant pré-entraînement et affinage avec notebooks et exercices.
OPEN SOURCE, OPEN TO EVERYONE
Code ouvert. Horizons nouveaux.
Découvrez des projets open source de qualité, soumettez des projets anonymement, puis revendiquez et éditez votre propre projet.
✳Sélection humaine · Découvrez de bons projets open source4105découverts
Un peu de curiosité. Un monde de code ouvert.
THE FIRST COLLECTIONTopic: from-scratch清除
llms-from-scratchrasbt
NOUVEAUplanckgptnguyenphuminh
NOUVEAUPlanckGPT est un petit modèle de langage GPT (~540M paramètres) conçu pour être entraîné de zéro sur un ordinateur portable grand public, avec pré-entraînement sur Fineweb-edu et affinage conversationnel.
ai-engineering-from-scratchrohitg00
NOUVEAUCurriculum gratuit et open source d'ingénierie IA à partir des premiers principes : 523 leçons en 20 phases (~342 heures), couvrant des mathématiques à la production en Python, TypeScript, Rust et Julia. Chaque leçon produit un prompt, skill, agent ou serveur MCP réutilisable ; inclut un tuteur IA installable et une préparation à la certification Claude.