jetson-inference

jetson-inference é um projeto instrucional e uma biblioteca para implantar modelos de visão de aprendizado profundo em dispositivos NVIDIA Jetson. Ele usa TensorRT para executar redes otimizadas a partir de C++ ou Python, enquanto PyTorch é usado para treinamento de modelos e aprendizado por transferência. A biblioteca fornece interfaces para classificação de imagens, detecção de objetos, segmentação semântica, estimativa de pose, reconhecimento de ações, remoção de fundo e estimativa de profundidade monocular. O README inclui exemplos em C++ e Python para processar imagens e feeds de câmera ao vivo, bem como tutoriais para streaming de câmera, aplicações web WebRTC, serviços REST Flask e dashboards Plotly. A integração com ROS e ROS2 é fornecida através do projeto relacionado ros_deep_learning. O material Hello AI World cobre a execução de inferência inteiramente no Jetson, coleta de conjuntos de dados, retreinamento de modelos e implantação dos modelos resultantes com TensorRT. O mesmo código de treinamento PyTorch também pode ser usado em um PC, servidor ou instância de nuvem com uma GPU discreta NVIDIA. O projeto inclui modelos pré-treinados para reconhecimento estilo ImageNet, detecção de objetos COCO, cenários de tráfego e dash-cam, detecção de rostos, segmentação Cityscapes e Pascal VOC, estimativa de pose de corpo e mãos, e reconhecimento de ações Kinetics. Compilações a partir do código-fonte, contêineres Docker e instruções de configuração JetPack são fornecidas, com suporte ao JetPack 6 observado para dispositivos Orin. As APIs C++ e Python podem ser vinculadas a projetos externos através de libjetson-inference e libjetson-utils.