train-llm-from-scratchFareedKhan-dev
신규Fareed Khan이 개발한 PyTorch 기반 LLM 학습 가이드. 트랜스포머 아키텍처를 처음부터 구현하며, 데이터 전처리부터 사전학습, SFT, DPO, PPO, GRPO 등 사후 학습 및 평가까지 전체 파이프라인을 다룹니다.
우수한 오픈 소스 프로젝트를 발견하고, 익명으로 프로젝트를 제출하며, 내 프로젝트를 신청해 편집하세요.
호기심으로 오픈 소스의 세계를 발견하세요.
THE FIRST COLLECTIONFareed Khan이 개발한 PyTorch 기반 LLM 학습 가이드. 트랜스포머 아키텍처를 처음부터 구현하며, 데이터 전처리부터 사전학습, SFT, DPO, PPO, GRPO 등 사후 학습 및 평가까지 전체 파이프라인을 다룹니다.
PASO는 AI 검열, 음성/영상 통화, 확장 가능한 Socket.IO 인프라를 갖춘 프로덕션급 실시간 통신 플랫폼으로, 메시징, AI 기능 및 관리 제어 기능을 통합합니다.