sglangsgl-project
신규SGLang은 저지연 및 고처리량 추론을 위해 설계된 대규모 언어 모델(LLM) 및 멀티모달 모델용 고성능 서빙 프레임워크입니다.
OPEN SOURCE, OPEN TO EVERYONE
오픈 소스. 새로운 가능성.
우수한 오픈 소스 프로젝트를 발견하고, 익명으로 프로젝트를 제출하며, 내 프로젝트를 신청해 편집하세요.
✳편집자 선정 · 좋은 오픈 소스 발견4101발견됨
호기심으로 오픈 소스의 세계를 발견하세요.
THE FIRST COLLECTIONTopic: attention清除
labml.ai는 60개 이상의 문서화된 PyTorch 딥러닝 구현을 제공하며, 웹사이트에서 설명 노트와 함께 나란히 렌더링됩니다. 트랜스포머, GAN, 디퓨전 모델, 강화학습, 옵티마이저 등 다양한 주제를 다룹니다.
planckgptnguyenphuminh
신규소비자용 노트북 하드웨어에서 처음부터 학습하도록 설계된 소형 GPT 언어 모델(약 5억 4천만 파라미터)로, Fineweb-edu 사전 학습 및 채팅 파인튜닝 기능을 제공합니다.