llms-from-scratchrasbt
新着『Build a Large Language Model (From Scratch)』の公式コードリポジトリ。GPT系モデルの事前学習と微調整を段階的にPyTorchで実装し、ノートブックと演習を提供。
OPEN SOURCE, OPEN TO EVERYONE
オープンソース。新しい可能性。
優れたオープンソースプロジェクトを見つけ、匿名でプロジェクトを投稿し、自分のプロジェクトを申請して編集できます。
✳編集部選定 · 良いオープンソースを発見4109発見済み
好奇心とともに、オープンソースの世界へ。
THE FIRST COLLECTIONTopic: pretraining清除
planckgptnguyenphuminh
新着PlanckGPTは、一般消費者向けノートPCでゼロから学習できる約5.4億パラメータの小型GPT言語モデルです。Fineweb-eduで事前学習し、チャット微調整も可能です。