Узнай, как Neural Architecture Search (NAS) автоматизирует проектирование нейронных сетей для оптимизации производительности при обнаружении объектов, искусственном интеллекте и многом другом.
Поиск нейронной архитектуры (NAS) - это автоматизированная техника в области машинного обучения (ML), направленная на разработку оптимальной структуры, или архитектуры, нейронных сетей (NN). Вместо того чтобы полагаться на людей-экспертов, которые вручную проектируют схемы сетей методом проб и ошибок, NAS использует алгоритмы для изучения огромного пространства возможных архитектур и выявления наиболее эффективных из них для конкретной задачи и набора данных. Такая автоматизация ускоряет процесс разработки и позволяет обнаружить новые, высокопроизводительные архитектуры, которые могут быть интуитивно неочевидны для человека, оптимизируя такие показатели, как точность, скорость(задержка вывода) или вычислительная эффективность.
Фундаментальный процесс NAS включает в себя три основных компонента: пространство поиска, стратегию поиска и стратегию оценки производительности. Пространство поиска определяет набор возможных архитектур сетей, которые могут быть разработаны, по сути, описывая строительные блоки (например, различные типы функций свертки или активации) и способы их соединения. Стратегия поиска направляет исследование этого пространства, используя различные методы - от случайного поиска и обучения с подкреплением до эволюционных алгоритмов. И наконец, стратегия оценки производительности оценивает, насколько хорошо работает архитектура-кандидат, часто подразумевая частичное или полное обучение сети на наборе данных и измерение ее производительности, хотя для ускорения этого процесса используются такие техники, как разделение весов или предикторы производительности, о чем подробно рассказывается в исследованиях Google AI.
Автоматизация проектирования архитектуры с помощью NAS дает значительные преимущества:
Яркий пример - YOLO, разработанная Deci AI с использованием технологии NAS. Эта модель была специально направлена на устранение ограничений предыдущих версий Ultralytics YOLO путем включения в нее блоков, удобных для квантования, найденных с помощью NAS. Это привело к тому, что модели обеспечивают превосходный баланс между точностью и задержкой, что делает их очень эффективными для приложений реального времени, таких как ИИ в автомобильных решениях и интеллектуальное управление трафиком, даже после квантования модели в такие форматы, как INT8, для эффективного развертывания. Дополнительную информацию о технике квантования можно найти в таких ресурсах, как документация по NVIDIA TensorRT .
В здравоохранении NAS используется для разработки специальных конволюционных нейронных сетей (CNN) для анализа медицинских изображений. Например, NAS может оптимизировать архитектуру для таких задач, как обнаружение опухолей на МРТ-сканах или сегментирование органов на КТ-изображениях, что потенциально может привести к созданию более быстрых и точных диагностических инструментов в помощь врачам. Применение ИИ в анализе медицинских изображений - быстро развивающаяся область, что подчеркивают такие институты, как Национальный институт здоровья (NIH). Управление такими специализированными моделями и наборами данных можно упростить с помощью таких платформ, как Ultralytics HUB.
NAS - это особый компонент в более широкой области автоматизированного машинного обучения (AutoML). В то время как NAS фокусируется исключительно на поиске наилучшей архитектуры нейронной сети, AutoML нацелен на автоматизацию всего конвейера МЛ, включая такие этапы, как предварительная обработка данных, разработка признаков, выбор модели и настройка гиперпараметров. Очень важно отличать NAS от настройки гиперпараметров: настройка гиперпараметров оптимизирует параметры конфигурации (например, скорость обучения или размер партии) для заданной, фиксированной архитектуры модели, в то время как NAS ищет саму архитектуру. Обе техники часто используются вместе для достижения оптимальной производительности модели. Для оптимизации гиперпараметров популярны такие инструменты, как Optuna или Ray Tune.