Глоссарий

Поиск нейронной архитектуры (NAS)

Узнай, как Neural Architecture Search (NAS) автоматизирует проектирование нейронных сетей для оптимизации производительности при обнаружении объектов, искусственном интеллекте и многом другом.

Обучай модели YOLO просто
с помощью Ultralytics HUB.

Узнай больше

Поиск нейронной архитектуры (NAS) - это автоматизированная техника в области машинного обучения (ML), направленная на разработку оптимальной структуры, или архитектуры, нейронных сетей (NN). Вместо того чтобы полагаться на людей-экспертов, которые вручную проектируют схемы сетей методом проб и ошибок, NAS использует алгоритмы для изучения огромного пространства возможных архитектур и выявления наиболее эффективных из них для конкретной задачи и набора данных. Такая автоматизация ускоряет процесс разработки и позволяет обнаружить новые, высокопроизводительные архитектуры, которые могут быть интуитивно неочевидны для человека, оптимизируя такие показатели, как точность, скорость(задержка вывода) или вычислительная эффективность.

Как работает нейронная архитектура поиска

Фундаментальный процесс NAS включает в себя три основных компонента: пространство поиска, стратегию поиска и стратегию оценки производительности. Пространство поиска определяет набор возможных архитектур сетей, которые могут быть разработаны, по сути, описывая строительные блоки (например, различные типы функций свертки или активации) и способы их соединения. Стратегия поиска направляет исследование этого пространства, используя различные методы - от случайного поиска и обучения с подкреплением до эволюционных алгоритмов. И наконец, стратегия оценки производительности оценивает, насколько хорошо работает архитектура-кандидат, часто подразумевая частичное или полное обучение сети на наборе данных и измерение ее производительности, хотя для ускорения этого процесса используются такие техники, как разделение весов или предикторы производительности, о чем подробно рассказывается в исследованиях Google AI.

Основные преимущества NAS

Автоматизация проектирования архитектуры с помощью NAS дает значительные преимущества:

  • Сокращение ручных усилий: Это уменьшает зависимость от экспертов по глубокому обучению и обширных экспериментов при проектировании архитектуры.
  • Оптимизированная производительность: NAS может открывать архитектуры, адаптированные под конкретные задачи (например, обнаружение объектов, классификация изображений) или аппаратные ограничения (например, мобильные устройства или платформы граничного ИИ ), зачастую превосходящие разработанные человеком аналоги. Ты можешь изучить различные моделиUltralytics , оптимизированные для разных задач.
  • Ускоренная разработка: Автоматизировав критически важный и трудоемкий этап, NAS может ускорить общий жизненный цикл разработки ML-модели.
  • Новые архитектуры: Он может раскрывать нетрадиционные, но высокоэффективные сетевые структуры, расширяя границы исследований в области глубокого обучения.

Приложения в искусственном интеллекте и машинном обучении

1. Оптимизированные модели обнаружения объектов

Яркий пример - YOLO, разработанная Deci AI с использованием технологии NAS. Эта модель была специально направлена на устранение ограничений предыдущих версий Ultralytics YOLO путем включения в нее блоков, удобных для квантования, найденных с помощью NAS. Это привело к тому, что модели обеспечивают превосходный баланс между точностью и задержкой, что делает их очень эффективными для приложений реального времени, таких как ИИ в автомобильных решениях и интеллектуальное управление трафиком, даже после квантования модели в такие форматы, как INT8, для эффективного развертывания. Дополнительную информацию о технике квантования можно найти в таких ресурсах, как документация по NVIDIA TensorRT .

2. Анализ медицинских изображений

В здравоохранении NAS используется для разработки специальных конволюционных нейронных сетей (CNN) для анализа медицинских изображений. Например, NAS может оптимизировать архитектуру для таких задач, как обнаружение опухолей на МРТ-сканах или сегментирование органов на КТ-изображениях, что потенциально может привести к созданию более быстрых и точных диагностических инструментов в помощь врачам. Применение ИИ в анализе медицинских изображений - быстро развивающаяся область, что подчеркивают такие институты, как Национальный институт здоровья (NIH). Управление такими специализированными моделями и наборами данных можно упростить с помощью таких платформ, как Ultralytics HUB.

NAS и связанные с ним понятия

NAS - это особый компонент в более широкой области автоматизированного машинного обучения (AutoML). В то время как NAS фокусируется исключительно на поиске наилучшей архитектуры нейронной сети, AutoML нацелен на автоматизацию всего конвейера МЛ, включая такие этапы, как предварительная обработка данных, разработка признаков, выбор модели и настройка гиперпараметров. Очень важно отличать NAS от настройки гиперпараметров: настройка гиперпараметров оптимизирует параметры конфигурации (например, скорость обучения или размер партии) для заданной, фиксированной архитектуры модели, в то время как NAS ищет саму архитектуру. Обе техники часто используются вместе для достижения оптимальной производительности модели. Для оптимизации гиперпараметров популярны такие инструменты, как Optuna или Ray Tune.

Читать полностью