Официальный репозиторий кода книги «Build a Large Language Model (From Scratch)»: пошаговая реализация GPT-подобных моделей на PyTorch, включая предобучение и дообучение, с ноутбуками и упражнениями.
Открытый код. Новые возможности.
Находите качественные проекты с открытым исходным кодом, отправляйте проекты анонимно, заявляйте права на свои проекты и редактируйте их.
Немного любопытства. Мир открытого кода.
THE FIRST COLLECTIONPlanckGPT — образовательный проект для обучения GPT-модели (~540M параметров) с нуля на потребительском железе. Предобучение на 2 млрд токенов Fineweb-edu (~28 часов на ноутбуке), опциональный чат-финтюнинг с Smol-smoltalk.
Бесплатная учебная программа по AI-инжинирингу с открытым исходным кодом и лицензией MIT: 523 урока в 20 этапов (~342 часа), от первых принципов до продакшена на Python, TypeScript, Rust и Julia. Каждый урок завершается переиспользуемым артефактом — промптом, навыком, агентом или MCP-сервером; включает устанавливаемый ИИ-тьютор и подготовку к сертификации Claude.