ওপেন সোর্স। নতুন সম্ভাবনা।

NVIDIA Transformer Engine একটি লাইব্রেরি যা NVIDIA GPU-তে FP8, MXFP8 এবং NVFP4 লো-প্রিসিশন ফরম্যাট ব্যবহার করে Transformer মডেল ত্বরান্বিত করে, PyTorch ও JAX প্রশিক্ষণ ও ইনফারেন্সের জন্য অপ্টিমাইজড বিল্ডিং ব্লক এবং মিক্সড-প্রিসিশন API প্রদান করে।