tvm

Apache TVM 是一个开源的机器学习编译框架，专注于 Python 优先的开发，以便快速定制编译器流水线。其目标是通过将模型转换为最小可部署模块来实现通用部署。 当前的架构采用了跨层设计，其中 TensorIR 用于张量级表示，Relax 用于图级表示。这种设计允许对计算图、张量程序和库进行联合优化。此外，TVM 还作为构建领域特定垂直编译器的基础基础设施，包括针对大语言模型 (LLMs) 的编译器。