Зелёная проверка
Ссылка копируется в буфер обмена

Компиляция и квантование Ultralytics YOLOv5 для повышения производительности с помощью Deci

Оптимизируй и развертывай модели Ultralytics YOLOv5 с помощью платформы Deci, повышая производительность до 10 раз. Начни бесплатно и используй автоматическую оптимизацию моделей.

На Ultralytics мы на коммерческой основе сотрудничаем с другими стартапами, которые помогают нам финансировать исследования и разработку наших потрясающих инструментов с открытым исходным кодом, таких как YOLOv5, чтобы они оставались бесплатными для всех. Эта статья может содержать партнерские ссылки на этих партнеров.

Платформа Deci включает в себя бесплатные инструменты для легкого управления, оптимизации и развертывания твоих YOLOv5 модели в любой производственной среде. Deci поддерживает все популярные DL-фреймворки, такие как TensorFlow, PyTorch, Keras и ONNX. Все, что тебе нужно, - это наша веб-платформа или наш клиент Python , чтобы запускать ее из своего кода.

Почему именно Дечи?

Ты можешь использовать Deci не только для экспорта, но и для обрезки и квантования модели!

Deci предоставляет приятный интерфейс для экспорта в любой формат и сравнения производительности между оригинальной и преобразованной моделями. Пользователи могут дополнительно оптимизировать свои модели с помощью квантования.

С Дечи ты сможешь:

Повысь производительность умозаключений до 10 раз

‍Автоматическикомпилируй и квантуй свои модели и оценивай различные настройки производства, чтобы добиться лучшей задержки, всего и уменьшения размера модели и занимаемой памяти на твоем оборудовании.

‍Найдителучшее аппаратное обеспечение для вывода информации для вашего приложения

‍Бенчмаркингпроизводительности твоей модели на различных аппаратных (в том числе edge) устройствах проводится одной кнопкой. Избавься от необходимости вручную настраивать и тестировать множество аппаратных и производственных параметров.

‍DeployWith A Few Lines Of Code

‍Используймеханизм умозаключений Дечи python. Совместим с множеством фреймворков и типов оборудования.

Больше информации о платформе Deci Platform можно найти на сайте Deci.

Первая установка

Шаг 1

Открой свой бесплатный аккаунт.

Начни работать с Дечи и Ultralytics YOLOv5

Шаг 2

Чтобы начать оптимизировать твою предварительно обученную модель YOLOv5 , тебе нужно будет преобразовать ее в формат ONNX . Инструкции по конвертации модели в формат ONNX см. в разделе YOLOv5 Export Tutorial.

Шаг 3

Перейди на вкладку "Лаборатория" и нажми на кнопку "Новая модель" в правой верхней части экрана, чтобы загрузить свою YOLOv5 ONNX модель.

Преобразуй модели Ultralytics YOLOv5  в ONNX для последующего развертывания с Deci

Следуй шагам мастера загрузки модели, чтобы выбрать целевое оборудование, а также желаемый размер партии и уровень квантования для компиляции модели.

Ultralytics YOLOv5 компиляция модели для развертывания с помощью Deci

Заполнив соответствующую информацию, нажми "Старт". Платформа Deci автоматически выполнит оптимизацию твоей модели YOLOv5 под выбранное тобой оборудование, а также проведет бенчмаркинг твоей модели на различных типах оборудования. Этот процесс занимает примерно 10 минут.

После этого на твоем экране появится новая строка под базовой моделью, которую ты загрузил ранее. Здесь ты сможешь увидеть оптимизированную версию твоей предварительно обученной модели YOLOv5 .

Ultralytics YOLOv5 Оптимизированная модель для развертывания с помощью Deci

Что дальше?

Затем ты можешь загрузить свою оптимизированную модель, нажав на кнопку "Deploy".

Ultralytics YOLOv5 Модель, готовая к развертыванию с помощью Deci

Затем тебе будет предложено загрузить свою модель и получить инструкции по установке и использованию Infery - движка для выводов Deci во время выполнения.

Использование Infery необязательно. Ты можешь получить необработанные файлы python и использовать их с любым другим движком для создания выводов по своему выбору.

Используй Deci Infery для развертывания Ultralytics YOLOv5

Изучи результаты оптимизации и бенчмаркинга на вкладке "Insights".

Оптимизация с помощью модели Deci of Ultralytics YOLOv5

Готов приступить к работе?

Прежде чем завершить разговор, давай обсудим некоторые преимущества, которые предлагает Дечи:

  • Оптимизируй пропускную способность и задержку вывода модели без ущерба для точности
  • Позволяет оптимизировать модели из всех популярных фреймворков
  • Поддерживает модели, нацеленные на решение любых задач глубокого обучения
  • Поддерживает развертывание на популярных машинах CPU и GPU .
  • Проверь пригодность твоей модели на разных аппаратных хостах и облачных провайдерах
  • Подготовь загруженные модели к обслуживанию, выводу и развертыванию

Как ты только что увидел, ты можешь удвоить производительность модели YOLOv5 за 15 минут общего времени. Платформа Deci суперпроста и интуитивно понятна в использовании.

Есть вопросы? Присоединяйся к нашему сообществу и оставь свой вопрос сегодня!

Логотип FacebookЛоготип ТвиттераЛоготип LinkedInСимвол копирования-ссылки

Читайте больше в этой категории

Давай вместе построим будущее
искусственного интеллекта!

Начни свое путешествие с будущим машинного обучения