Facendo clic su "Accetta tutti i cookie", acconsenti alla memorizzazione dei cookie sul tuo dispositivo per migliorare la navigazione del sito, analizzare l'utilizzo del sito e contribuire alle nostre iniziative di marketing. Per saperne di più
Impostazioni dei cookie
Facendo clic su "Accetta tutti i cookie", acconsenti alla memorizzazione dei cookie sul tuo dispositivo per migliorare la navigazione del sito, analizzare l'utilizzo del sito e contribuire alle nostre iniziative di marketing. Per saperne di più
Compilazione e quantizzazione di Ultralytics YOLOv5 per migliorare le prestazioni con Deci
Ottimizza e distribuisci i modelli di Ultralytics YOLOv5 con la piattaforma di Deci, migliorando le prestazioni fino a 10 volte. Inizia gratuitamente e sfrutta l'ottimizzazione automatica dei modelli.
Noi di Ultralytics collaboriamo commercialmente con altre startup per aiutarci a finanziare la ricerca e lo sviluppo dei nostri fantastici strumenti open-source, come YOLOv5, per mantenerli gratuiti per tutti. Questo articolo può contenere link di affiliazione a questi partner.
La piattaforma Deci include strumenti gratuiti per gestire, ottimizzare e distribuire facilmente i tuoi modelli in qualsiasi ambiente di produzione. YOLOv5 modelli in qualsiasi ambiente di produzione. Deci supporta tutti i framework DL più diffusi, come TensorFlow, PyTorch, Keras e ONNX. Tutto ciò di cui hai bisogno è la nostra piattaforma web o il nostro client Python per eseguirlo dal tuo codice.
Perché Deci?
Puoi utilizzare Deci non solo per l'esportazione ma anche per la potatura e la quantizzazione del modello!
Deci offre un'ottima interfaccia per l'esportazione in qualsiasi formato e il confronto delle prestazioni tra il modello originale e quello convertito. Gli utenti possono scegliere di ottimizzare ulteriormente i loro modelli attraverso la quantizzazione.
Con Deci puoi:
Migliora le prestazioni dell'inferenza fino a 10 volte
Compilae quantizza automaticamente i tuoi modelli e valuta diverse impostazioni di produzione per ottenere una migliore latenza, in tutto e per tutto, e ridurre le dimensioni del modello e l'ingombro in memoria del tuo hardware.
Troval'hardware di inferenza migliore per la tua applicazione
Benchmarkdelle prestazioni del tuo modello su vari dispositivi hardware (compresi quelli edge) con un solo pulsante. Elimina la necessità di configurare e testare manualmente diverse impostazioni hardware e di produzione.
Dispiegarecon poche righe di codice
Sfruttail motore di inferenza di Deci basato su python. Compatibile con diversi framework e tipi di hardware.
Per maggiori informazioni sulla Piattaforma Deci, visita il sito web di Deci.
La prima volta che si configura
Passo 1
Apri il tuo account gratuito.
Passo 2
Per iniziare a ottimizzare il tuo modello pre-addestrato YOLOv5 , dovrai convertirlo nel formato ONNX . Consulta l'esercitazione sull'esportazione diYOLOv5 per le istruzioni su come convertire il tuo modello nel formato ONNX .
Passo 3
Vai alla scheda "Laboratorio" e clicca sul pulsante "Nuovo modello" in alto a destra per caricare il tuo modello. YOLOv5 ONNX modello.
Segui i passaggi della procedura guidata di caricamento del modello per selezionare l'hardware di destinazione e le dimensioni del batch e il livello di quantizzazione desiderati per la compilazione del modello.
Dopo aver inserito le informazioni necessarie, clicca su "Avvia". La piattaforma Deci eseguirà automaticamente un'ottimizzazione runtime del tuo modello YOLOv5 per l'hardware che hai selezionato e farà un benchmark del tuo modello su vari tipi di hardware. Questo processo richiede circa 10 minuti.
Una volta fatto, sullo schermo apparirà una nuova riga sotto il modello di base che hai caricato in precedenza. Qui potrai vedere la versione ottimizzata del tuo modello preaddestrato YOLOv5 .
Cosa succederà?
Puoi quindi scaricare il tuo modello ottimizzato cliccando sul pulsante "Deploy".
Ti verrà chiesto di scaricare il tuo modello e riceverai istruzioni su come installare e utilizzare Infery, il motore di inferenza runtime di Deci.
L'uso di Infery è facoltativo. Puoi ottenere i file grezzi di python e utilizzarli con qualsiasi altro motore di inferenza di tua scelta.
Esplora i risultati dell'ottimizzazione e dei benchmark nella scheda "Approfondimenti".
Sei pronto per iniziare?
Prima di concludere, parliamo di alcuni dei vantaggi offerti da Deci:
Ottimizza il throughput e la latenza dell'inferenza del tuo modello senza compromettere la precisione
Ti permette di ottimizzare i modelli di tutti i framework più diffusi
Supporta modelli mirati a qualsiasi compito di deep-learning
Supporta la distribuzione sui più diffusi computer CPU e GPU
Esegui dei benchmark per verificare l'idoneità del tuo modello su diversi host hardware e fornitori di cloud.
Prepara i modelli caricati per il servizio, l'inferenza e la distribuzione.
Come hai appena visto, puoi raddoppiare le prestazioni di un modello YOLOv5 in 15 minuti complessivi. La piattaforma Deci è super facile e intuitiva da usare.
Hai qualche domanda? Unisciti alla nostra community e lascia la tua domanda oggi stesso!
