オープンソース。新しい可能性。

『Build a Large Language Model (From Scratch)』の公式コードリポジトリ。GPT系モデルの事前学習と微調整を段階的にPyTorchで実装し、ノートブックと演習を提供。

PlanckGPTは、一般消費者向けノートPCでゼロから学習できる約5.4億パラメータの小型GPT言語モデルです。Fineweb-eduで事前学習し、チャット微調整も可能です。

『AI Engineering from Scratch』は、APIラッパーではなく第一原理からAIエンジニアリングを教える無料・MITライセンスのカリキュラム兼リファレンスマニュアル。20フェーズ・523レッスン（約342時間）で、Python・TypeScript・Rust・Juliaによる実装を収録。各レッスンは数学ベースの自作、フレームワーク利用、再利用成果物の作成で構成され、AIチューター機能やClaude認定試験対策も備える。