Edge Computing

Perché l'Edge Computing è importante per l'AI/ML

L'edge computing è particolarmente importante nel campo dell'intelligenza artificiale (AI) e del ML, soprattutto per le attività di computer vision (CV). Molte applicazioni di AI richiedono l'elaborazione immediata dei dati dei sensori (come immagini o flussi video) per prendere decisioni tempestive. L'invio di grandi volumi di dati al cloud introduce ritardi(latenza) inaccettabili per gli scenari di inferenza in tempo reale. L'Edge Computing risolve questo problema consentendo ai modelli di ML, come ad esempio Ultralytics YOLO di Ultralytics per il rilevamento degli oggetti, di essere eseguiti direttamente sulla fonte dei dati o in prossimità di essa. Questo riduce significativamente i tempi di risposta, conserva la larghezza di banda della rete e può migliorare la privacy dei dati mantenendo le informazioni sensibili localizzate. Lo sviluppo di hardware potente ed efficiente come le GPU e di acceleratori specializzati come le TPU progettati per i dispositivi edge facilita ulteriormente questa tendenza. Puoi saperne di più sull'implementazione di applicazioni di computer vision su dispositivi AI edge.

Applicazioni AI/ML del mondo reale

L'edge computing consente un'ampia gamma di applicazioni innovative di AI/ML:

1. Veicoli autonomi: Le auto utilizzano l'edge computing per elaborare in tempo reale i dati provenienti da telecamere, LiDAR e altri sensori. In questo modo è possibile rilevare immediatamente gli oggetti, pianificare il percorso ed evitare le collisioni senza affidarsi a una connessione cloud potenzialmente lenta o non disponibile. Scopri di più sulle soluzioni di AI nel settore automobilistico.
2. Industrial IoT e Smart Manufacturing: Le fabbriche utilizzano dispositivi edge per monitorare i macchinari utilizzando la computer vision per l'ispezione della qualità o la manutenzione predittiva. L'analisi dei dati dei sensori a livello locale consente di ricevere avvisi e regolazioni istantanee, migliorando l'efficienza e la sicurezza. Scopri l'AI nel settore manifatturiero.
3. Smart Retail: I dispositivi edge analizzano i feed delle telecamere all'interno dei negozi per il monitoraggio degli scaffali, l'analisi del comportamento dei clienti o la gestione delle code, ottimizzando le operazioni senza trasmettere filmati estesi. Scopri come l'intelligenza artificiale può essere utilizzata per una gestione più intelligente dell'inventario dei negozi.
4. Monitoraggio dell'assistenza sanitaria: I dispositivi indossabili e i monitor a bordo letto possono utilizzare l'edge computing per analizzare i segni vitali a livello locale, fornendo avvisi immediati in caso di condizioni critiche e migliorando l'assistenza ai pazienti, come discusso in Vision AI in ambito sanitario.

Edge Computing e termini correlati

• Cloud Computing: La differenza principale sta nel luogo di calcolo. Il cloud computing si basa su centri dati centralizzati e remoti che offrono un'ampia scalabilità e archiviazione, ideali per l'addestramento di modelli ML di grandi dimensioni o per l'elaborazione in batch. L'edge computing si concentra sull'elaborazione decentralizzata e locale per esigenze di bassa latenza e in tempo reale. Spesso viene utilizzato un approccio ibrido, in cui i modelli vengono addestrati nel cloud e distribuiti all'edge per l'inferenza. Scopri le opzioni per addestrare i modelli nel cloud con Ultralytics HUB.
• Edge AI: sebbene sia strettamente correlato, l'Edge AI si riferisce specificamente all'esecuzione di algoritmi AI e modelli ML direttamente sui dispositivi edge. L'edge computing fornisce l'infrastruttura più ampia (hardware, rete, capacità di elaborazione) che consente l'Edge AI. Pensa all'edge computing come al palcoscenico e all'Edge AI come alla performance che si svolge su quel palcoscenico. Per saperne di più su come l 'Edge AI e l'edge computing alimentano l'intelligenza in tempo reale.
• Fog Computing: Spesso usato in modo intercambiabile con l'edge computing, il fog computing si riferisce in genere a un livello di risorse di calcolo situato tra l'edge estremo (dispositivi) e il cloud centralizzato, che funge da hub di elaborazione intermedio. L 'edge computing è generalmente considerato un concetto più ampio che comprende l'elaborazione in qualsiasi punto al di fuori del cloud centrale.

Tecnologie abilitanti

L'implementazione efficace dei modelli di ML nell'edge spesso richiede specifiche ottimizzazioni hardware e software.

• Hardware: I dispositivi vanno dai microcontrollori a basso consumo e dai System-on-Chip (SoC) come il Raspberry Pi ai sistemi embedded più potenti come le schede NVIDIA Jetson, dotate di acceleratori AI specializzati. Consulta le guide per l'implementazione su NVIDIA Jetson o Raspberry Pi.
• Software/Frameworks: Tecniche di ottimizzazione dei modelli come la quantizzazione e il pruning, insieme a motori di inferenza ottimizzati come OpenVINO diIntel o NVIDIA TensorRTsono fondamentali per eseguire modelli complessi in modo efficiente su hardware edge con risorse limitate. Scopri l'integrazione diUltralytics con OpenVINO e TensorRT. Esistono diverse opzioni di distribuzione dei modelli per facilitare questo processo.

L'edge computing è fondamentale per sbloccare il potenziale dell'AI e del ML in tempo reale in diversi settori industriali, consentendo applicazioni intelligenti più veloci, più efficienti e più private direttamente dove sono più necessarie.