Verificação verde
Link copiado para a área de transferência

Ultralytics YOLO11 em NVIDIA Jetson Orin Nano Super: rápido e eficiente

Explora como a implementação de Ultralytics YOLO11 em NVIDIA Jetson Orin Nano Super oferece benchmarks impressionantes e GPU- desempenho acelerado para aplicações avançadas de IA.

O NVIDIA Jetson Orin Nano Super Developer Kit, lançado a 17 de dezembro de 2024, é um supercomputador de IA generativo compacto, mas potente, concebido para trazer capacidades avançadas para a computação periférica. Facilita o processamento em tempo real e elimina a necessidade de computação em nuvem. O NVIDIA Jetson Orin Nano Super permite aos programadores criar sistemas inteligentes acessíveis que funcionam eficientemente em ambientes locais.

Quando emparelhado com Ultralytics YOLO modelos como Ultralytics YOLO11o Jetson Orin Nano Super pode lidar com uma vasta gama de aplicações de IA de visão no limite. Em particular, o YOLO11 é um modelo de visão por computador conhecido pela sua velocidade e precisão em tarefas como a deteção de objectos, o seguimento de objectos e a segmentação de instâncias. 

A combinação das capacidades do YOLO11com a robusta GPU (Graphics Processing Unit) do kit e o suporte para estruturas como PyTorch, ONNX e NVIDIA TensorRT permite implementações de elevado desempenho. Esta combinação oferece aos programadores uma solução eficiente para a criação de aplicações de IA, desde a deteção de objectos na robótica até ao rastreio de objectos em tempo real em espaços inteligentes e sistemas de retalho.

Neste artigo, vamos analisar o NVIDIA Jetson Orin Nano Super Developer Kit, como funciona com o Ultralytics YOLO11 para IA de ponta, as suas referências de desempenho, aplicações do mundo real e como pode ajudar os programadores a criar projectos de IA de visão. Toca a começar!

O que é o NVIDIA Jetson Orin Nano Super Developer Kit?

O NVIDIA Jetson Orin Nano Super Developer Kit é um computador compacto, mas potente, que redefine a IA generativa para pequenos dispositivos de ponta. Oferece até 67 TOPS (triliões de operações por segundo) de desempenho de IA, tornando-o ideal para programadores, estudantes e amadores que trabalham em projectos avançados de IA.

Figura 1. Uma visão geral do NVIDIA Jetson Orin Nano Super.

Apresentamos-te algumas das suas principais caraterísticas:

  • GPU desempenho: O dispositivo foi concebido com base na arquitetura NVIDIA Ampere GPU, que inclui 1024 núcleos CUDA e 32 núcleos Tensor . Os núcleos CUDA processam muitas tarefas em simultâneo, acelerando os cálculos complexos, enquanto os núcleos Tensor são especializados em tarefas de IA, como a aprendizagem profunda. 
  • Poderoso CPU: Inclui um processador Arm Cortex-A78AE de 6 núcleos, concebido para equilibrar velocidade e eficiência. O dispositivo pode executar várias tarefas sem problemas, mantendo o consumo de energia baixo. Isto é importante para sistemas que funcionam localmente sem acesso a grandes fontes de energia.
  • Memória eficiente: O kit vem com 8 GB de memória LPDDR5 (Low Power Double Data Rate 5). LPDDR5 é um tipo de RAM (Random Access Memory) optimizado para velocidade e eficiência energética, permitindo que o dispositivo lide com grandes conjuntos de dados e processamento em tempo real sem consumir energia excessiva.
  • Opções de ligação: Inclui portas USB 3.2 para transferências de dados rápidas, uma porta Gigabit Ethernet para ligações de rede fortes e interfaces de câmara para integrar sensores ou câmaras
  • Ferramentas de desenvolvimento de IA: O Jetson Orin Nano Super funciona com o NVIDIA JetPack SDK, que fornece ferramentas como CUDA para uma computação mais rápida e TensorRT para otimizar os modelos de IA. Estas ferramentas facilitam aos programadores a criação e implementação de aplicações de IA de forma rápida e eficiente.

Comparações de desempenho: Jetson Orin Nano Super Vs. Orin NX 16GB

Se estás familiarizado com o trabalho de NVIDIA, deves estar a perguntar-te como é que este novo lançamento se compara com o já existente NVIDIA Jetson Orin NX 16GB (sem modo super). Embora o Jetson Orin NX ofereça capacidades gerais superiores, o Jetson Orin Nano Super Developer Kit proporciona um desempenho impressionante por uma fração do custo. 

Figura 2. Vê o ecossistema do NVIDIA Jetson Orin.

Aqui tens um breve resumo:

  • Desempenho de IA: O Jetson Orin Nano Super oferece até 67 TOPS, o que é ótimo para a maioria das tarefas de IA de ponta, enquanto o Jetson Orin NX oferece até 100 TOPS para aplicações mais exigentes.
  • Memória: O Jetson Orin Nano Super inclui 8GB LPDDR5, o suficiente para tarefas em tempo real, enquanto o Orin NX duplica para 16GB para cargas de trabalho maiores.
  • Eficiência energética: O Jetson Orin Nano Super é mais eficiente em termos de energia e pode ser configurado entre 7W e 25W, em comparação com as exigências de energia mais elevadas do Jetson Orin NX.
  • GPU: Ambos partilham a arquitetura NVIDIA Ampere com 1024 CUDA núcleos e 32 Tensor núcleos para um desempenho robusto GPU .

YOLO11 com o Jetson Orin Nano Super: Leva a IA de visão até aos limites

Agora que compreendemos melhor o Jetson Orin Nano Super, vejamos como o YOLO11 pode intervir para levar as capacidades da Vision AI para o limite. Ultralytics YOLO modelos, incluindo YOLO11, vêm com modos versáteis como treinar, prever e exportar, tornando-os adaptáveis a uma variedade de fluxos de trabalho de IA. 

Por exemplo, no modo de treino, os modelos Ultralytics YOLO podem ser ajustados e treinados em conjuntos de dados personalizados para aplicações específicas, como a deteção de objectos únicos ou a otimização para ambientes específicos. Da mesma forma, o modo de previsão foi concebido para inferência, permitindo tarefas de visão computacional em tempo real. Por fim, o modo de exportação pode ser usado para converter modelos em formatos otimizados para implantação.

Fig 3. Ultralytics Os modelosYOLO suportam várias funcionalidades e modos.

YOLO11 no modo de exportação suporta uma série de opções de implementação de modelos, incluindo, entre outras:

  • NVIDIA TensorRT: Este formato está optimizado para NVIDIA GPUs, oferecendo inferência de alto desempenho e baixa latência no Jetson Orin Nano Super.
  • ONNX (Open Neural Network Exchange): Garante a compatibilidade entre várias plataformas, tornando-o versátil para diferentes ecossistemas de hardware e software.
  • TorchScript: Este formato é ideal para aplicações baseadas em PyTorch, ajudando a uma integração perfeita em fluxos de trabalho PyTorch .
  • TFLite (TensorFlow Lite): Um formato concebido para implementações leves de IA, tornando-o perfeito para sistemas móveis e incorporados.

Utilizando estes formatos de implementação, os programadores podem tirar o máximo partido do hardware do Jetson Orin Nano Super para executar YOLO11 para aplicações em tempo real, como espaços inteligentes, robótica e automação de retalho. 

Comparação de desempenho YOLO11 no NVIDIA Jetson Orin Nano Super

Em seguida, para teres uma ideia melhor da rapidez com que o YOLO11 pode ser executado no NVIDIA Jetson Orin Nano Super, vamos explorar o seu impressionante desempenho e benchmarks utilizando GPU- formatos de exportação acelerados como PyTorch, ONNX, e TensorRT. Estes testes revelam que o Jetson Orin Nano Super atinge tempos de inferência com modelos YOLO11 que são comparáveis - e ocasionalmente ultrapassam - o atual Jetson Orin NX 16GB (sem o modo super).

Figura 4. Comparação de desempenho YOLO11 em NVIDIA Jetson Orin Nano Super.

O que torna isto ainda mais notável é o preço acessível do Jetson Orin Nano Super. Oferecendo tal desempenho por menos de metade do preço do Jetson Orin NX 16GB, proporciona um valor excecional para os programadores que criam aplicações de alto desempenho em YOLO11 . Esta combinação de custo e desempenho torna o Jetson Orin Nano Super uma excelente escolha para tarefas de IA de visão em tempo real no edge.

Figura 5. Comparação de desempenho YOLO11 no Jetson Orin NX 16GB.

Põe a mão na massa com YOLO11 e o NVIDIA Jetson Orin Nano Super

Se estás entusiasmado por começar a implementar o YOLO11 no Jetson Orin Nano Super, há boas notícias - é um processo simples. Depois de flasheares o teu dispositivo com o SDK JetPack NVIDIA , podes utilizar uma imagem Docker pré-construída para uma configuração rápida ou instalar manualmente os pacotes necessários. 

Para quem procura uma integração mais rápida e perfeita, o contentor Docker JetPack 6 atualizado é a solução ideal. Um contentor Docker é um ambiente leve e portátil que inclui todas as ferramentas e dependências necessárias para executar um software específico. 

O contentor Ultralytics , optimizado para JetPack 6.1, vem pré-carregado com CUDA 12.6, TensorRT 10.3, e ferramentas essenciais como PyTorch e TorchVision, tudo adaptado à arquitetura ARM64 da Jetson. Ao utilizar este contentor, os programadores podem poupar tempo na configuração e concentrar-se na criação e otimização das suas aplicações Vision AI com YOLO11.

Aplicações de YOLO11 no NVIDIA Jetson Orin Nano Super

Para aqueles que procuram inspiração para o seu próximo projeto de IA, há potencial para aplicações de visão por computador baseadas nas extremidades à nossa volta. 

Na vida quotidiana, a IA de ponta está a redefinir os espaços inteligentes, permitindo que os sistemas detectem e acompanhem objectos em tempo real, tudo sem depender do processamento na nuvem. Quer se trate de monitorizar o tráfego numa cidade movimentada ou de identificar atividade invulgar em espaços públicos, a IA de visão periférica está a aumentar a segurança e a eficiência.

Os retalhistas também estão a explorar a IA de ponta e a visão por computador. Desde controlos de inventário automatizados até à prevenção de roubos, modelos como o YOLO11 permitem às empresas implementar soluções em tempo real diretamente nas lojas. 

Da mesma forma, quando se trata de IA nos cuidados de saúde, a monitorização baseada no edge garante a segurança dos pacientes, detecta anomalias e mantém a conformidade - tudo sem atrasos causados pela dependência da nuvem. Com ferramentas como o Jetson Orin Nano Super e YOLO11, o futuro da Vision AI está a desenrolar-se mesmo no limite, onde é mais necessário.

Principais conclusões

A implementação de Ultralytics YOLO modelos como YOLO11 no NVIDIA Jetson Orin Nano Super Developer Kit oferece uma solução fiável e eficiente para aplicações de IA de ponta. Com um desempenho robusto em GPU , suporte contínuo para PyTorch, ONNX, e TensorRT, e benchmarks impressionantes, é adequado para tarefas de visão computacional em tempo real, como deteção e rastreamento de objetos. 

As inovações e colaborações em tecnologias de ponta, como a Vision AI e a aceleração de hardware, estão a transformar a forma como trabalhamos, permitindo que os programadores criem soluções escaláveis e de elevado desempenho no limite. À medida que a IA avança, ferramentas como YOLO11 e o Jetson Orin Nano Super estão a tornar mais fácil do que nunca dar vida a soluções inteligentes e em tempo real.

Tens curiosidade sobre a IA? Visita o nosso repositório GitHub para explorar as nossas contribuições e interagir com a nossa comunidade. Vê como estamos a utilizar a IA para causar impacto em indústrias como a agricultura e os cuidados de saúde.

Logótipo do FacebookLogótipo do TwitterLogótipo do LinkedInSímbolo de ligação de cópia

Ler mais nesta categoria

Vamos construir juntos o futuro
da IA!

Começa a tua viagem com o futuro da aprendizagem automática