Computação de ponta

Porque é que a computação periférica é importante para a IA/ML

A computação periférica é particularmente impactante no domínio da Inteligência Artificial (IA) e do ML, especialmente para tarefas de visão computacional (CV). Muitas aplicações de IA requerem o processamento imediato de dados de sensores (como imagens ou fluxos de vídeo) para tomar decisões atempadas. O envio de grandes volumes de dados para a nuvem introduz atrasos(latência) que são inaceitáveis para cenários de inferência em tempo real. A computação periférica resolve este problema, permitindo modelos de ML, como o Ultralytics YOLO do Ultralytics, sejam executados diretamente na fonte de dados ou perto dela. Isto reduz significativamente os tempos de resposta, conserva a largura de banda da rede e pode melhorar a privacidade dos dados, mantendo as informações sensíveis localizadas. O desenvolvimento de hardware poderoso e eficiente, como GPUs e aceleradores especializados, como TPUs, projetados para dispositivos de borda, facilita ainda mais essa tendência. Podes saber mais sobre a implementação de aplicações de visão por computador em dispositivos de IA de ponta.

Aplicações de IA/ML do mundo real

A computação periférica permite uma vasta gama de aplicações inovadoras de IA/ML:

1. Veículos autónomos: Os automóveis utilizam a computação periférica para processar dados de câmaras, LiDAR e outros sensores em tempo real. Isto permite a deteção imediata de objectos, o planeamento do caminho e a prevenção de colisões sem depender de uma ligação à cloud potencialmente lenta ou indisponível. Explora mais sobre as soluções de IA no sector automóvel.
2. IoT industrial e fabrico inteligente: As fábricas implementam dispositivos de ponta para monitorizar máquinas utilizando a visão por computador para inspeção de qualidade ou manutenção preditiva. A análise dos dados do sensor localmente permite alertas e ajustes instantâneos, melhorando a eficiência e a segurança. Sabe mais sobre a IA no fabrico.
3. Retalho inteligente: Os dispositivos Edge analisam os feeds das câmaras dentro das lojas para monitorização das prateleiras, análise do comportamento dos clientes ou gestão de filas, optimizando as operações sem transmitir imagens de vídeo extensas. Vê como a IA pode ser utilizada para uma gestão de inventário de retalho mais inteligente.
4. Monitorização dos cuidados de saúde: Os dispositivos vestíveis e os monitores de cabeceira podem utilizar a computação periférica para analisar localmente os sinais vitais, fornecendo alertas imediatos para condições críticas, melhorando os cuidados prestados aos doentes, tal como discutido em Vision AI in healthcare.

Computação de borda vs. termos relacionados

• Computação em nuvem: A principal diferença reside na localização da computação. A computação em nuvem baseia-se em centros de dados remotos e centralizados que oferecem grande escalabilidade e armazenamento, ideais para treinar grandes modelos de ML ou processamento em lote. A computação de ponta centra-se no processamento local descentralizado para necessidades de baixa latência e em tempo real. Muitas vezes, é utilizada uma abordagem híbrida, em que os modelos são treinados na nuvem e implantados na borda para inferência. Descobre as opções para treinar modelos na nuvem com o Ultralytics HUB.
• IA de ponta: embora intimamente relacionada, a IA de ponta refere-se especificamente à execução de algoritmos de IA e modelos de ML diretamente em dispositivos de ponta. A computação periférica fornece a infraestrutura mais ampla (hardware, rede, capacidades de processamento) que permite a IA periférica. Pensa na computação periférica como o palco, e a IA periférica como o desempenho que acontece nesse palco. Lê mais sobre como a IA de ponta e a computação de ponta potenciam a inteligência em tempo real.
• Computação em névoa: Frequentemente usada de forma intercambiável com a computação de borda, a computação em névoa normalmente se refere a uma camada de recursos de computação situada entre a borda extrema (dispositivos) e a nuvem centralizada, atuando como um hub de processamento intermediário. A computação de borda é geralmente considerada um conceito mais amplo que engloba a computação em qualquer lugar fora da nuvem central.

Tecnologias facilitadoras

A implementação eficaz de modelos de ML no edge requer frequentemente optimizações específicas de hardware e software.

• Hardware: Os dispositivos variam de microcontroladores de baixo consumo e SoCs (System-on-Chips), como o Raspberry Pi, a sistemas incorporados mais potentes, como as placas NVIDIA Jetson, equipadas com aceleradores de IA especializados. Vê os guias para implementação no NVIDIA Jetson ou no Raspberry Pi.
• Software/Frameworks: Técnicas de otimização de modelos, como a quantização e a poda, juntamente com motores de inferência optimizados, como o OpenVINO daIntel ou o NVIDIA TensorRTda Intel, são cruciais para executar modelos complexos de forma eficiente em hardware de borda com recursos limitados. Explora a integração doUltralytics com o OpenVINO e o TensorRT. Existem várias opções de implementação de modelos para facilitar este processo.

A computação de ponta é fundamental para desbloquear o potencial da IA e do ML em tempo real em diversos sectores, permitindo aplicações inteligentes mais rápidas, mais eficientes e mais privadas diretamente onde são mais necessárias.