오픈 소스. 새로운 가능성.

SGLang은 저지연 및 고처리량 추론을 위해 설계된 대규모 언어 모델(LLM) 및 멀티모달 모델용 고성능 서빙 프레임워크입니다.

소비자용 노트북 하드웨어에서 처음부터 학습하도록 설계된 소형 GPT 언어 모델(약 5억 4천만 파라미터)로, Fineweb-edu 사전 학습 및 채팅 파인튜닝 기능을 제공합니다.

Cog는 머신러닝 모델을 프로덕션용 Docker 컨테이너로 패키징하며, CUDA 호환성을 자동 처리하고 Python 타입 정의에서 HTTP 추론 API를 생성합니다.

NVIDIA CUDA 샘플의 공식 저장소로, GPU 프로그래밍 기능을 보여주는 C++ 및 Python 예제 모음입니다. 기본 개념부터 고급 기술, 라이브러리, 도메인별 응용, 플랫폼별 샘플까지 다양한 카테고리를 포함하며, CMake 기반 빌드와 테스트 러너를 지원합니다.

vLLM은 대규모 언어 모델(LLM) 추론 및 서빙을 위해 설계된 고처리량 및 메모리 효율적인 라이브러리입니다.

Voicebox는 로컬에서 실행되는 오픈소스 AI 음성 스튜디오로, 음성 클로닝, TTS, 전역 받아쓰기, 오디오 후처리, MCP 기반 에이전트 음성 출력을 지원하며 클라우드 서비스의 무료 대안을 지향한다.

디코딩부터 인코딩까지 원본 프레임을 GPU에 유지하여 고성능 비디오 업스케일링을 가능하게 하는 TensorRT 이미지-투-이미지 비디오 모델용 GPU 상주 런타임입니다.

CatBoost는 Yandex의 오픈소스 그래디언트 부스팅 라이브러리로, 분류, 회귀, 랭킹에 사용되며, 범주형 특성 지원, CPU/GPU 학습, Apache Spark를 통한 분산 학습, Python, R, Java, C++ API를 제공합니다.

Whisper와 Gemini를 활용하여 태국어와 영어를 지원하는 AI 기반 자동 영상 편집 도구입니다. 주요 구간 컷 편집 및 자막 생성을 지원하며, GPU와 Docker를 통해 성능을 3~4배 향상시켰습니다.

NVIDIA cuDF는 CUDA-X 제품군의 일부로, GPU 가속 기반 DataFrame 라이브러리입니다. pandas 호환 API, Polars GPU 엔진, Dask 백엔드를 제공하여 고성능 데이터 처리를 지원합니다.

OneFlow는 사용자 친화적이고 확장 가능하며 효율적인 딥러닝 프레임워크로, PyTorch 유사 API, n차원 병렬 실행을 위한 Global Tensor, 모델 가속 및 배포를 위한 Graph Compiler를 제공합니다.