Глоссарий

Развертывание модели

Узнай, как эффективно развертывать модели машинного обучения с помощью Ultralytics. Оптимизируй, контролируй и поддерживай модели для получения эффекта в реальном мире.

Обучай модели YOLO просто
с помощью Ultralytics HUB.

Узнай больше

Развертывание модели - это процесс интеграции обученной модели машинного обучения в производственную среду, где она может делать предсказания на новых, невидимых данных. Этот шаг очень важен, так как он устраняет разрыв между разработкой модели и ее практическим применением, позволяя модели приносить пользу в реальных сценариях. По сути, речь идет о том, чтобы сделать модель доступной и пригодной для использования за пределами этапа разработки.

Ключевые аспекты развертывания модели

Развертывание модели включает в себя несколько важных моментов, которые должны обеспечить эффективное и результативное функционирование развернутой модели. К ним относятся выбор подходящей среды для развертывания, оптимизация модели для выводов, а также создание системы мониторинга и поддержания работоспособности модели с течением времени.

Среды развертывания

Модель может быть развернута в различных средах в зависимости от конкретных потребностей приложения. Развертывание в облаке обеспечивает масштабируемость и доступность, что делает его подходящим для приложений, требующих высокой доступности и переменной нагрузки. Популярные облачные платформы для развертывания моделей включают Amazon Web Services (AWS), Google Cloud Platform (GCP) и Microsoft Azure.

Пограничное развертывание, с другой стороны, подразумевает развертывание моделей непосредственно на устройствах, таких как смартфоны или IoT-устройства. Такой подход выгоден для приложений, требующих низких задержек, например для выводов в реальном времени в автономных автомобилях или обработки данных на устройстве в мобильных приложениях. Пограничное развертывание также может повысить конфиденциальность данных за счет того, что они обрабатываются локально, а не передаются на удаленный сервер. ПриложениеUltralytics HUB App позволяет запускать модели на устройствах iOS и Android .

Оптимизация модели для развертывания

Прежде чем развернуть модель, часто необходимо оптимизировать ее для вычислений. Это может включать в себя такие техники, как квантование модели, которое снижает точность весов модели, чтобы уменьшить ее размер и повысить скорость вычислений, и обрезка модели, которая удаляет менее важные связи в нейронной сети, чтобы сделать модель меньше и быстрее. Эти оптимизации особенно важны для пограничного развертывания, где вычислительные ресурсы могут быть ограничены. Ultralytics YOLO модели можно оптимизировать с помощью OpenVINO.

Контроль и обслуживание

После развертывания модели необходимо отслеживать ее работу, чтобы убедиться, что она продолжает делать точные прогнозы. Это может включать в себя отслеживание таких показателей, как точность, прецизионность и отзыв, а также мониторинг дрейфа концепций, когда статистические свойства целевой переменной меняются со временем, что потенциально может ухудшить работу модели. Для поддержания модели в актуальном и точном состоянии может потребоваться регулярное обслуживание, включая переобучение модели на новых данных. Мониторинг и обслуживание модели - жизненно важные этапы в проекте по компьютерному зрению.

Развертывание модели по сравнению с другими терминами

Развертывание модели отличается от других смежных понятий в машинном обучении. Например, обучение модели включает в себя подачу данных на модель для изучения закономерностей и взаимосвязей, а проверка модели оценивает ее работу на отдельном наборе данных, чтобы убедиться, что она хорошо обобщается на новые данные. Развертывание модели, напротив, направлено на то, чтобы обученная и проверенная модель работала в реальных условиях.

Применение в реальном мире

Управление запасами в розничной торговле: В розничной торговле развертывание моделей может использоваться для оптимизации управления запасами. Например, развернутая модель обнаружения объектов может анализировать изображения с камер магазина, чтобы отслеживать уровень товаров на полках в режиме реального времени. Это позволяет ритейлерам автоматизировать процессы пополнения запасов, обеспечивая постоянное наличие популярных товаров и снижая необходимость в ручной проверке запасов. Узнай больше об искусственном интеллекте в управлении запасами в розничной торговле.

Диагностика в здравоохранении: В здравоохранении развертывание моделей играет важную роль в диагностических инструментах. Например, модель глубокого обучения, обученная выявлять аномалии на медицинских изображениях, таких как рентгеновские снимки или МРТ, может быть развернута, чтобы помочь радиологам быстрее и точнее ставить диагнозы. Это может значительно улучшить результаты лечения пациентов за счет раннего выявления заболеваний. Изучи влияние ИИ на диагностику.

Заключение

Развертывание модели - важнейший этап жизненного цикла машинного обучения, превращающий обученную модель в практический инструмент, способный принести пользу в реальных приложениях. Тщательно продумав среду развертывания, оптимизировав модель для выводов и создав систему мониторинга и обслуживания, организации могут гарантировать, что их модели машинного обучения достигнут запланированного эффекта. Вне зависимости от того, где развернута модель - в облаке, на границе или в гибридной среде, - хорошо развернутая модель может повысить эффективность, улучшить процесс принятия решений и раскрыть новые возможности в различных отраслях. Ты можешь изучить варианты развертывания моделей и лучшие практики для Ultralytics YOLO моделей. Также ты можешь использовать Ultralytics HUB для развертывания своих обученных моделей.

Читать полностью