Verificação verde
Link copiado para a área de transferência

Compiling & Quantizing Ultralytics YOLOv5 For Better Performance With Deci

Optimize and deploy Ultralytics YOLOv5 models with Deci's platform, enhancing performance by up to 10x. Get started for free and leverage automatic model optimization.

Em Ultralytics fazemos parcerias comerciais com outras startups para nos ajudar a financiar a investigação e o desenvolvimento das nossas fantásticas ferramentas de código aberto, como YOLOv5, para as mantermos gratuitas para todos. Este artigo pode conter links de afiliados para esses parceiros.

A plataforma Deci inclui ferramentas gratuitas para gerir, otimizar e implementar facilmente os teus YOLOv5 modelos em qualquer ambiente de produção. Deci suporta todas as estruturas DL populares, como TensorFlow, PyTorch, Keras e ONNX. Tudo o que precisas é da nossa plataforma baseada na Web ou do nosso cliente Python para a executar a partir do teu código.

Porquê Deci?

Podes utilizar o Deci não só para exportar, mas também para podar e quantificar o modelo!

Deci fornece uma interface agradável para exportação em qualquer formato e comparação de desempenho entre os modelos originais e convertidos. Os utilizadores podem optar por otimizar ainda mais os seus modelos através da quantização.

Com Deci podes:

Melhora o desempenho da inferência em até 10 vezes

‍Compilae quantiza automaticamente os teus modelos e avalia diferentes definições de produção para obter uma melhor latência, ao longo de todo o processo, e reduzir o tamanho do modelo e o espaço de memória no teu hardware.

‍Encontrao melhor hardware de inferência para a tua aplicação

‍Avaliao desempenho do teu modelo em vários dispositivos de hardware (incluindo edge) com um botão. Elimina a necessidade de configurar e testar manualmente várias configurações de hardware e produção.

‍Desenvolvercom algumas linhas de código

‍Utilizao motor de inferência de Deci baseado em python. Compatível com vários frameworks e tipos de hardware.

Para mais informações sobre a Plataforma Deci, visita o sítio Web da Deci.

Configuração pela primeira vez

Passo 1

Open your free account.

Começa a trabalhar com Deci e Ultralytics YOLOv5

Passo 2

Para começar a otimizar o teu modelo YOLOv5 pré-treinado, terás de o converter para o formato ONNX . Consulte o Tutorial de exportaçãoYOLOv5 para obter instruções sobre como converter seu modelo para o formato ONNX .

Passo 3

Vai ao separador "Lab" e clica no botão "New Model" no canto superior direito do ecrã para carregar o teu YOLOv5 ONNX modelo.

Converte os modelos Ultralytics YOLOv5  para ONNX para futura implementação com Deci

Segue os passos do assistente de carregamento de modelos para selecionar o hardware de destino, bem como o tamanho do lote pretendido e o nível de quantização para a compilação do modelo.

Ultralytics YOLOv5 compilação de modelos para implantação com Deci

Depois de preencher as informações relevantes, clica em "Start". A plataforma Deci realizará automaticamente uma otimização em tempo de execução do teu modelo YOLOv5 para o hardware que seleccionaste, bem como um benchmark do teu modelo em vários tipos de hardware. Este processo demora aproximadamente 10 minutos.

Uma vez feito isso, uma nova linha aparecerá no teu ecrã por baixo do modelo de base que carregaste anteriormente. Aqui podes ver a versão optimizada do teu modelo YOLOv5 pré-treinado.

Ultralytics YOLOv5 modelo optimizado para implantação com Deci

O que vais fazer a seguir?

Em seguida, podes descarregar o teu modelo optimizado clicando no botão "Implementar".

Ultralytics YOLOv5 modelo pronto a ser implementado com Deci

Em seguida, ser-te-á pedido que descarregues o teu modelo e receberás instruções sobre como instalar e utilizar o Infery - o motor de inferência em tempo de execução do Deci.

A utilização do Infery é opcional. Podes obter os ficheiros brutos do python e utilizá-los com qualquer outro motor de inferência à tua escolha.

Utiliza o Deci Infery para implementar Ultralytics YOLOv5

Explora os resultados da otimização e do benchmark no separador "Insights".

Otimização com Deci de Ultralytics YOLOv5  modelo

Estás pronto para começar?

Antes de terminar, vamos discutir algumas das vantagens que Deci oferece:

  • Optimiza o rendimento e a latência da inferência do teu modelo sem comprometer a precisão
  • Permite-te otimizar modelos de todas as estruturas populares
  • Suporta modelos direccionados para qualquer tarefa de aprendizagem profunda
  • Suporta a implementação em máquinas populares CPU e GPU
  • Avalia a adequação do seu modelo em diferentes hosts de hardware e provedores de nuvem
  • Prepara os modelos carregados para serem servidos, inferidos e implementados

Como acabaste de ver, podes duplicar o desempenho de um modelo YOLOv5 em 15 minutos no total. A plataforma Deci é muito fácil e intuitiva de utilizar.

Tens alguma pergunta? Junta-te à nossa comunidade e deixa a tua pergunta hoje!

Logótipo do FacebookLogótipo do TwitterLogótipo do LinkedInSímbolo de ligação de cópia

Ler mais nesta categoria

Vamos construir juntos o futuro
da IA!

Começa a tua viagem com o futuro da aprendizagem automática