onnxruntime

ONNX Runtime은 추론과 학습 모두를 위해 설계된 크로스 플랫폼 머신러닝 가속기입니다. 주요 기능은 다음과 같습니다: - 추론 가속화: PyTorch, TensorFlow/Keras와 같은 딥러닝 프레임워크뿐만 아니라 scikit-learn, LightGBM, XGBoost와 같은 클래식 ML 라이브러리의 모델을 지원합니다. 다양한 운영 체제와 드라이버에서 그래프 변환 및 하드웨어 가속기를 통해 성능을 최적화합니다. - 학습 가속화: 기존 PyTorch 학습 스크립트와 통합하여 멀티 노드 NVIDIA GPU에서 트랜스포머 모델 학습을 위한 가속화를 제공합니다. 이 프로젝트는 다양한 하드웨어 구성과 호환되며, 추론 및 학습 워크플로우 모두를 위한 포괄적인 문서, 튜토리얼 및 샘플 저장소를 제공합니다.