llms-from-scratchrasbt
NOVORepositório oficial de código do livro 'Build a Large Language Model (From Scratch)': implementação passo a passo em PyTorch de modelos tipo GPT, cobrindo pré-treinamento e ajuste fino com notebooks e exercícios.
OPEN SOURCE, OPEN TO EVERYONE
Código aberto. Novas possibilidades.
Descubra projetos open source de qualidade, envie projetos anonimamente e reivindique e edite seu próprio projeto.
✳Seleção editorial · Descubra bons projetos open source4101descobertos
Um pouco de curiosidade. Um mundo de código aberto.
THE FIRST COLLECTIONTopic: pretraining清除
planckgptnguyenphuminh
NOVOUm pequeno modelo de linguagem GPT (~540M parâmetros) projetado para treinamento do zero em hardware de laptop de consumo, com pré-treinamento em Fineweb-edu e capacidade de ajuste fino para chat.