Controllo verde
Link copiato negli appunti

Compiling & Quantizing Ultralytics YOLOv5 For Better Performance With Deci

Optimize and deploy Ultralytics YOLOv5 models with Deci's platform, enhancing performance by up to 10x. Get started for free and leverage automatic model optimization.

Noi di Ultralytics collaboriamo commercialmente con altre startup per aiutarci a finanziare la ricerca e lo sviluppo dei nostri fantastici strumenti open-source, come YOLOv5, per mantenerli gratuiti per tutti. Questo articolo può contenere link di affiliazione a questi partner.

La piattaforma Deci include strumenti gratuiti per gestire, ottimizzare e distribuire facilmente i tuoi modelli in qualsiasi ambiente di produzione. YOLOv5 modelli in qualsiasi ambiente di produzione. Deci supporta tutti i framework DL più diffusi, come TensorFlow, PyTorch, Keras e ONNX. Tutto ciò di cui hai bisogno è la nostra piattaforma web o il nostro client Python per eseguirlo dal tuo codice.

Perché Deci?

Puoi utilizzare Deci non solo per l'esportazione ma anche per la potatura e la quantizzazione del modello!

Deci offre un'ottima interfaccia per l'esportazione in qualsiasi formato e il confronto delle prestazioni tra il modello originale e quello convertito. Gli utenti possono scegliere di ottimizzare ulteriormente i loro modelli attraverso la quantizzazione.

Con Deci puoi:

Migliora le prestazioni dell'inferenza fino a 10 volte

‍Compilae quantizza automaticamente i tuoi modelli e valuta diverse impostazioni di produzione per ottenere una migliore latenza, in tutto e per tutto, e ridurre le dimensioni del modello e l'ingombro in memoria del tuo hardware.

Troval'hardware di inferenza migliore per la tua applicazione

‍Benchmarkdelle prestazioni del tuo modello su vari dispositivi hardware (compresi quelli edge) con un solo pulsante. Elimina la necessità di configurare e testare manualmente diverse impostazioni hardware e di produzione.

‍Dispiegarecon poche righe di codice

Sfruttail motore di inferenza di Deci basato su python. Compatibile con diversi framework e tipi di hardware.

Per maggiori informazioni sulla Piattaforma Deci, visita il sito web di Deci.

La prima volta che si configura

Passo 1

Open your free account.

Iniziare con Deci e Ultralytics YOLOv5

Passo 2

Per iniziare a ottimizzare il tuo modello pre-addestrato YOLOv5 , dovrai convertirlo nel formato ONNX . Consulta l'esercitazione sull'esportazione diYOLOv5 per le istruzioni su come convertire il tuo modello nel formato ONNX .

Passo 3

Vai alla scheda "Laboratorio" e clicca sul pulsante "Nuovo modello" in alto a destra per caricare il tuo modello. YOLOv5 ONNX modello.

Convertire i modelli Ultralytics YOLOv5  in ONNX per una futura distribuzione con Deci

Segui i passaggi della procedura guidata di caricamento del modello per selezionare l'hardware di destinazione e le dimensioni del batch e il livello di quantizzazione desiderati per la compilazione del modello.

Ultralytics YOLOv5 compilazione del modello per la distribuzione con Deci

Dopo aver inserito le informazioni necessarie, clicca su "Avvia". La piattaforma Deci eseguirà automaticamente un'ottimizzazione runtime del tuo modello YOLOv5 per l'hardware che hai selezionato e farà un benchmark del tuo modello su vari tipi di hardware. Questo processo richiede circa 10 minuti.

Una volta fatto, sullo schermo apparirà una nuova riga sotto il modello di base che hai caricato in precedenza. Qui potrai vedere la versione ottimizzata del tuo modello preaddestrato YOLOv5 .

Ultralytics YOLOv5 modello ottimizzato per la distribuzione con Deci

Cosa succederà?

Puoi quindi scaricare il tuo modello ottimizzato cliccando sul pulsante "Deploy".

Ultralytics YOLOv5 modello pronto per la distribuzione con Deci

Ti verrà chiesto di scaricare il tuo modello e riceverai istruzioni su come installare e utilizzare Infery, il motore di inferenza runtime di Deci.

L'uso di Infery è facoltativo. Puoi ottenere i file grezzi di python e utilizzarli con qualsiasi altro motore di inferenza di tua scelta.

Usa Deci Infery per distribuire Ultralytics YOLOv5

Esplora i risultati dell'ottimizzazione e dei benchmark nella scheda "Approfondimenti".

Ottimizzazione con Deci del modello Ultralytics YOLOv5

Sei pronto per iniziare?

Prima di concludere, parliamo di alcuni dei vantaggi offerti da Deci:

  • Ottimizza il throughput e la latenza dell'inferenza del tuo modello senza compromettere la precisione
  • Ti permette di ottimizzare i modelli di tutti i framework più diffusi
  • Supporta modelli mirati a qualsiasi compito di deep-learning
  • Supporta la distribuzione sui più diffusi computer CPU e GPU
  • Esegui dei benchmark per verificare l'idoneità del tuo modello su diversi host hardware e fornitori di cloud.
  • Prepara i modelli caricati per il servizio, l'inferenza e la distribuzione.

Come hai appena visto, puoi raddoppiare le prestazioni di un modello YOLOv5 in 15 minuti complessivi. La piattaforma Deci è super facile e intuitiva da usare.

Hai qualche domanda? Unisciti alla nostra community e lascia la tua domanda oggi stesso!

Logo di FacebookLogo di TwitterLogo di LinkedInSimbolo di copia-link

Leggi tutto in questa categoria

Costruiamo insieme il futuro
di AI!

Inizia il tuo viaggio nel futuro dell'apprendimento automatico