tvm

Apache TVM은 컴파일러 파이프라인의 빠른 맞춤 설정을 가능하게 하기 위해 Python 우선 개발에 집중하는 오픈 소스 머신러닝 컴파일 프레임워크입니다. 이는 모델을 최소 배포 가능 모듈로 변환함으로써 범용 배포를 제공하는 것을 목표로 합니다. 현재 아키텍처는 텐서 수준 표현을 위한 TensorIR과 그래프 수준 표현을 위한 Relax를 특징으로 하는 교차 수준 설계를 활용합니다. 이러한 설계는 계산 그래프, 텐서 프로그램 및 라이브러리의 공동 최적화를 가능하게 합니다. 또한, TVM은 Large Language Models (LLMs)를 포함한 도메인 특화 수직 컴파일러를 구축하기 위한 기초 인프라 역할을 합니다.