Edge Computing

Perché l'Edge Computing è importante per l'AI/ML

L'edge computing è particolarmente trasformativo per l'Intelligenza Artificiale (AI) e il ML, soprattutto nell'ambito della computer vision (CV). Molte applicazioni di AI, come quelle che prevedono l'analisi di immagini o flussi video, richiedono l'elaborazione immediata dei dati dei sensori per consentire un processo decisionale tempestivo. L'invio di grandi volumi di dati al cloud introduce ritardi(latenza) spesso inaccettabili per scenari che richiedono un'inferenza in tempo reale. L'edge computing affronta direttamente questa sfida consentendo ai modelli di ML, compresi quelli sofisticati per il rilevamento degli oggetti come Ultralytics YOLOdi essere eseguiti direttamente sulla fonte dei dati o in prossimità di essa. Questo riduce drasticamente i tempi di risposta, conserva la larghezza di banda della rete e può migliorare significativamente la privacy dei dati mantenendo le informazioni sensibili localizzate, in linea con le normative come il GDPR. Il progresso di hardware potente ma efficiente dal punto di vista energetico, come le GPU specializzate come la serie NVIDIA Jetson e gli acceleratori come le TPU (ad esempio, Google Coral Edge TPU), progettati specificamente per i dispositivi edge, alimenta ulteriormente questa tendenza. Puoi saperne di più sull'implementazione di applicazioni di computer vision su dispositivi AI edge.

Edge Computing vs. Edge AI

È importante distinguere tra Edge Computing e Edge AI.

• Edge Computing: Si riferisce all'infrastruttura e alla pratica più ampia di avvicinare le attività di calcolo alla fonte dei dati. Comprende l'hardware (dispositivi edge, server, gateway), le reti e i sistemi di gestione necessari per l'elaborazione distribuita. È un po' come un palcoscenico.
• Edge AI: si tratta di eseguire algoritmi di AI e ML direttamente su questi dispositivi edge. Sfrutta l'infrastruttura di edge computing per eseguire attività come l'inferenza a livello locale. L'Edge AI è la performance che avviene sul palcoscenico.

In sostanza, l'Edge AI è un sottoinsieme o un'applicazione specifica del paradigma dell'edge computing, incentrato sull'implementazione di funzionalità AI al di fuori dei data center centralizzati. Puoi approfondire le applicazioni di Edge AI nel mondo reale.

Applicazioni AI/ML del mondo reale

L'edge computing consente una vasta gamma di applicazioni innovative di AI/ML che si basano sull'elaborazione locale:

• Veicoli autonomi: Le auto a guida autonoma richiedono l'elaborazione istantanea dei dati dei sensori (telecamere, LiDAR) per la navigazione, l'evitamento degli ostacoli e il processo decisionale. Affidarsi al cloud introdurrebbe una latenza inaccettabile. L'edge computing consente a veicoli come quelli sviluppati da Tesla o Waymo di eseguire calcoli critici di intelligenza artificiale a bordo per un funzionamento sicuro. I modelli Ultralytics possono svolgere un ruolo nelle soluzioni di AI nel settore automobilistico.
• Smart Manufacturing: Nelle fabbriche, i dispositivi edge dotati di fotocamere e modelli di intelligenza artificiale come YOLO11 possono eseguire ispezioni di qualità in tempo reale sulle linee di produzione, rilevare istantaneamente i difetti, monitorare la sicurezza dei lavoratori e ottimizzare i processi senza inviare grandi quantità di dati video al cloud. Questo migliora l'efficienza e consente un intervento immediato. Scopri come l 'intelligenza artificiale migliora la produzione.
• L'intelligenza artificiale nell'assistenza sanitaria: L'edge computing consente il monitoraggio in tempo reale dei pazienti tramite sensori indossabili o telecamere in camera, l'analisi immediata dei dati di imaging medico su dispositivi locali e alimenta strumenti medici intelligenti che forniscono un feedback immediato durante le procedure, migliorando la cura del paziente e la privacy dei dati.
• Retail Analytics: I negozi utilizzano i dispositivi edge per una gestione più intelligente dell'inventario al dettaglio, analizzando il comportamento dei clienti in modo anonimo attraverso le telecamere per ottimizzare il layout e alimentando i sistemi di cassa senza cassiere come Amazon Go.

Considerazioni chiave per l'implementazione dei bordi

L'implementazione di successo dei modelli di intelligenza artificiale nell'edge spesso richiede tecniche e strumenti specifici:

• Ottimizzazione dei modelli: Tecniche come la quantizzazione del modello e il pruning del modello sono fondamentali per ridurre le dimensioni del modello e i requisiti computazionali, garantendo un'esecuzione efficiente su hardware edge con risorse limitate. Framework come TensorRT e OpenVINO aiutano a ottimizzare i modelli per un hardware specifico.
• Selezione dell'hardware: La scelta del dispositivo edge più adatto(Raspberry Pi, NVIDIA Jetson, Google Coral) dipende dalle esigenze di prestazione dell'applicazione, dal budget energetico e dalle condizioni ambientali.
• Gestione e orchestrazione: La gestione di migliaia di dispositivi edge distribuiti richiede strumenti robusti per l'implementazione, il monitoraggio e gli aggiornamenti, spesso con piattaforme come Kubernetes adattate all'edge(K3s, MicroK8s) o piattaforme MLOps specializzate come Ultralytics HUB.
• Sicurezza: Se da un lato l'elaborazione edge può migliorare la privacy dei dati, dall'altro gli stessi dispositivi edge possono presentare nuove vulnerabilità di sicurezza che devono essere gestite con attenzione attraverso l'avvio sicuro, la comunicazione crittografata e il controllo degli accessi. Puoi leggere ulteriori informazioni sulle migliori pratiche di sicurezza.