오픈 소스. 새로운 가능성.

SGLang은 저지연 및 고처리량 추론을 위해 설계된 대규모 언어 모델(LLM) 및 멀티모달 모델용 고성능 서빙 프레임워크입니다.

labml.ai는 60개 이상의 문서화된 PyTorch 딥러닝 구현을 제공하며, 웹사이트에서 설명 노트와 함께 나란히 렌더링됩니다. 트랜스포머, GAN, 디퓨전 모델, 강화학습, 옵티마이저 등 다양한 주제를 다룹니다.

소비자용 노트북 하드웨어에서 처음부터 학습하도록 설계된 소형 GPT 언어 모델(약 5억 4천만 파라미터)로, Fineweb-edu 사전 학습 및 채팅 파인튜닝 기능을 제공합니다.

vLLM은 대규모 언어 모델(LLM) 추론 및 서빙을 위해 설계된 고처리량 및 메모리 효율적인 라이브러리입니다.

OpenAI의 Whisper 자동 음성 인식(ASR) 모델을 위한 고성능 C/C++ 구현체로, 가볍고 교차 플랫폼 배포가 가능하도록 설계되었습니다.

PaddleSeg는 바이두 PaddlePaddle 생태계의 엔드투엔드 이미지 분할 개발 키트로, 45개 이상의 모델 알고리즘과 140개 이상의 사전 학습 모델을 내장하고 시맨틱 분할, 대화형 분할, 파노라마 분할, 이미지 매팅, 3D 의료 분할을 지원하며 데이터 라벨링부터 학습, 압축, 배포까지 전 과정을 아우른다.

CTranslate2를 사용하여 OpenAI의 Whisper 모델을 빠르게 재구현한 프로젝트로, 전사 속도 향상과 메모리 사용량 감소를 제공합니다.

Hugging Face Transformers는 텍스트, 비전, 오디오 및 멀티모달 작업을 위한 머신러닝 모델 정의 프레임워크입니다. 100만 개 이상의 사전 학습된 체크포인트와 함께 추론 및 학습을 위한 통합 API를 제공합니다.