Repositório oficial de código do livro 'Build a Large Language Model (From Scratch)': implementação passo a passo em PyTorch de modelos tipo GPT, cobrindo pré-treinamento e ajuste fino com notebooks e exercícios.
OPEN SOURCE, OPEN TO EVERYONE
Código aberto. Novas possibilidades.
Descubra projetos open source de qualidade, envie projetos anonimamente e reivindique e edite seu próprio projeto.
✳Seleção editorial · Descubra bons projetos open source4109descobertos
Um pouco de curiosidade. Um mundo de código aberto.
THE FIRST COLLECTIONTopic: from-scratch清除
llms-from-scratchrasbt
NOVOplanckgptnguyenphuminh
NOVOUm pequeno modelo de linguagem GPT (~540M parâmetros) projetado para treinamento do zero em hardware de laptop de consumo, com pré-treinamento em Fineweb-edu e capacidade de ajuste fino para chat.
ai-engineering-from-scratchrohitg00
NOVOCurrículo de engenharia de IA gratuito e de código aberto focado em primeiros princípios: 523 lições em 20 fases (~342 horas), com cobertura da matemática à produção em Python, TypeScript, Rust e Julia. Cada lição entrega um prompt, skill, agente ou servidor MCP reutilizável; inclui um tutor de IA instalável e preparação para certificação Claude.