L'intelligenza artificiale sta trasformando diversi settori, merci e funzionalità fondamentali. Tuttavia, le reti neurali profonde consumano risorse eccessive in termini di memoria, potenza di calcolo ed energia. Per garantire un'adozione diffusa dell'IA, è necessario che essa operi in modo efficiente sui dispositivi degli utenti finali, rispettando rigorosi vincoli energetici e termici. Tecniche come la quantizzazione e la compressione giocano un ruolo fondamentale nel mitigare queste sfide.

In questo webinar, Amir Servi, product manager di Sony, ti illustrerà il Model Compression Toolkit di Sony per la quantizzazione e l'accelerazione dei modelli di deep learning per una distribuzione efficiente sugli edge. Imparerai a fare lo stesso per il tuo modello! Cosa imparerai:

- La nostra ultima ricerca sulle tecniche di quantizzazione e la sua implementazione in un prodotto pratico

- Importanza della compressione hardware-aware per l'inferencing on edge

- Come ingegneri e ricercatori possono implementare queste tecniche attraverso l'MCT di Sony

I recenti progressi nel campo della computer vision sono stati favoriti dall'introduzione dell'architettura a trasformatori e dalle astrazioni di facile utilizzo per il pre-training, la messa a punto e l'inferenza della libreria 🤗 transformers. Questo intervento fornisce una panoramica dei più recenti modelli di visione basati sui trasformatori, esplora le utilità disponibili all'interno della libreria di trasformatori 🤗 e offre spunti pratici sulla filosofia che ne sta alla base.

Sei stanco delle lunghe file alle casse dei negozi? Il nostro sistema di gestione intelligente delle code è la risposta! Unisciti a noi per un tutorial passo dopo passo su come creare un sistema di questo tipo utilizzando OpenVINO e YOLOv8. Ti guideremo attraverso il processo di integrazione di questi potenti strumenti open-source per sviluppare una soluzione end-to-end che possa essere implementata in ambienti di cassa al dettaglio. Imparerai come ottimizzare l'applicazione per ottenere prestazioni eccezionali. Che tu sia uno sviluppatore esperto o alle prime armi con l'intelligenza artificiale, questa sessione ti fornirà consigli pratici e best practice per la creazione di sistemi intelligenti utilizzando OpenVINO. Alla fine della presentazione, avrai le conoscenze e le risorse necessarie per creare la tua soluzione personale.

In un'epoca definita dai rapidi progressi dell'intelligenza artificiale (IA), navigare nel panorama etico di questa tecnologia è fondamentale. In questa sessione, Mónica svelerà l'intricata rete di dilemmi etici che accompagnano il potere trasformativo dell'IA. Dall'affrontare i pregiudizi e l'equità all'esplorare la trasparenza, la responsabilità e il profondo impatto dell'IA sulla società, Monica fornirà spunti che faranno luce sulle considerazioni etiche che circondano l'IA.

Questa conferenza è l'occasione per acquisire una comprensione fondamentale delle sfide e delle responsabilità etiche associate all'IA. Mónica ti fornirà le conoscenze essenziali per chiunque sia impegnato nello sviluppo dell'IA, nel processo decisionale o nella formazione delle politiche.

I modelli di base possono essere impegnativi in termini di calcolo GPU e potrebbero non essere adatti ad applicazioni in tempo reale, soprattutto se si desidera scalare milioni di punti vendita autonomi. Ma noi sfruttiamo il metodo chiamato distillazione della conoscenza, in cui mettiamo a punto i nostri modelli di base per attività complesse come le annotazioni e trasferiamo questa conoscenza in modelli più piccoli e convenienti. Questo ci permette di accelerare il processo di annotazione fino a 90 volte rispetto all'etichettatura umana tradizionale.

Pssst. Vuoi sapere un segreto? E se ti dicessi che l'apprendimento attivo non deve essere difficile. E se ci fosse... un modo semplice? Sei fortunato. Questo discorso ti mostrerà esattamente come implementare una pipeline di apprendimento attivo utilizzando il Data Engine di DagsHub. Il 90% della pipeline può essere eseguita direttamente in un Jupyter Notebook o su Google Colab! Alla fine della conferenza, avrai le informazioni necessarie per convertire il tuo progetto esistente in uno che utilizza l'apprendimento attivo per migliorare in modo efficiente e rapido le metriche dei tuoi modelli!

L'utilizzo di strumenti open source con YOLOv8 può aiutarti a rendere operativo il tuo prossimo progetto di IA visiva in modo rapido. Esistono repository di immagini open source, librerie per automatizzare l'etichettatura dei dati, strumenti per il tracciamento o il conteggio e server per distribuire i tuoi modelli. Scopri come utilizzarli con YOLOv8 per creare la tua prossima applicazione.

La corsa globale in corso verso sistemi di intelligenza artificiale (AI) più grandi e migliori dovrebbe avere un profondo impatto sociale e ambientale, alterando i mercati del lavoro, sconvolgendo i modelli di business e consentendo nuove strutture di governance e di benessere sociale che possono influenzare il consenso globale sui percorsi di azione per il clima. Tuttavia, gli attuali sistemi di intelligenza artificiale sono addestrati su set di dati parziali che potrebbero destabilizzare le agenzie politiche che influenzano le decisioni di mitigazione e adattamento ai cambiamenti climatici e compromettere la stabilità sociale, portando potenzialmente a eventi di ribaltamento della società. Pertanto, la progettazione di un sistema di IA meno distorto che rifletta gli effetti diretti e indiretti sulle società e sulle sfide planetarie è una questione di primaria importanza.

La quantizzazione dei modelli di machine learning (ML) può portare a una significativa riduzione delle dimensioni del modello e a una riduzione della latenza di inferenza grazie a minori requisiti di larghezza di banda. Quando viene utilizzata su opzioni hardware che supportano in modo efficiente i calcoli interi, i guadagni in termini di prestazioni possono essere ancora più significativi. Tuttavia, la quantizzazione può talvolta portare a una degradazione inaccettabile dell'accuratezza. In questo intervento presentiamo una panoramica dei metodi per quantizzare in modo efficiente i modelli di YOLOv8 , rendendoli una scelta eccellente per diverse applicazioni di intelligenza artificiale in tempo reale. Introduciamo anche una classe di modelli YOLOv8 con funzione di attivazione ReLU6 che mostrano eccellenti risultati di quantizzazione dopo l'addestramento su una varietà di architetture di modelli e set di dati. Infine, illustriamo come i modelli quantizzati possano essere implementati su diverse opzioni hardware come CPU, Edge TPU e Orca (l'acceleratore AI HW di DeGirum) utilizzando semplici API.

Ultralytics è la casa dei modelli di computer vision più avanzati e all'avanguardia per compiti come la classificazione delle immagini, il rilevamento degli oggetti, la segmentazione delle immagini e la stima delle pose. Weights & Biases è una piattaforma MLOps orientata agli sviluppatori che, se integrata con un flusso di lavoro Ultralytics , ci permette di gestire facilmente i nostri esperimenti, i checkpoint dei modelli e di visualizzare i risultati dei nostri esperimenti in modo perspicace e intuitivo. In questa sessione esploreremo il modo in cui possiamo potenziare efficacemente i nostri flussi di lavoro di computer vision utilizzando Ultralytics e Weights & Biases.

Scopri come abbiamo creato PatentPT, una soluzione avanzata di modelli linguistici che migliora notevolmente le capacità di ricerca e interazione con i brevetti. La presentazione offre spunti pratici per la messa a punto e l'implementazione di modelli linguistici di grandi dimensioni e l'utilizzo di agenti di memoria di livello enterprise per il completamento automatico dei brevetti, la generazione di abstract e rivendicazioni e l'esecuzione di funzioni avanzate di ricerca di brevetti utilizzando il ricco corpus di brevetti. Ti spiegheremo come sviluppare una soluzione simile utilizzando il Deep Lake di Activeloop, il Database for AI, i modelli LLM open-source, l'hardware HPU Habana Gaudi e le API di inferenza LLM di Amazon Sagemaker.

Ti guideremo attraverso i progetti architettonici e tutti i passi che abbiamo fatto per costruire la soluzione: dall'addestramento del nostro modello LLM e la sua messa a punto, alla creazione di funzionalità personalizzate e all'implementazione delle API di ricerca.

Che tu sia un professionista dell'IA alla ricerca di guide pratiche per la messa a punto degli LLM, un professionista legale interessato a sfruttare l'IA per la ricerca di brevetti o semplicemente curioso del futuro delle soluzioni basate sull'IA, il nostro intervento offre uno sguardo al processo e al potenziale dell'utilizzo degli LLM in un campo specializzato. Unisciti a noi per condividere il nostro viaggio nella costruzione di applicazioni personalizzate basate su LLM e alimentate da Deep Lake, il database per l'IA per aziende grandi e piccole.