Заниженная посадка

Что приводит к занижению посадки?

Несколько факторов могут способствовать тому, что модель окажется недостаточно подходящей:

• Недостаточная сложность модели: Выбранная модель может быть слишком простой для сложности данных. Например, использование базовой модели линейной регрессии для данных с нелинейными закономерностями или использование нейронной сети (НС) со слишком малым количеством слоев или нейронов.
• Неадекватная разработка признаков: Входные признаки, предоставляемые модели, могут не содержать достаточно релевантной информации или неэффективно представлять основные закономерности.
• Недостаточное количество обучающих данных: Возможно, модель не видела достаточно примеров, чтобы выучить основные закономерности. Это особенно актуально для сложных моделей глубокого обучения. Очень важно иметь разнообразные и репрезентативные данные, которые можно изучить с помощью платформ вроде Ultralytics datasets.
• Слишком короткое обучение: процесс обучения модели может быть остановлен преждевременно, до того, как она успеет пройти достаточное количество эпох для изучения закономерностей в данных.
• Чрезмерная регуляризация: Техники, используемые для предотвращения чрезмерной подгонки, такие как L1 или L2 регуляризация или высокий уровень отсева, иногда могут чрезмерно ограничивать модель, не позволяя ей изучать необходимые паттерны, если применять их слишком сильно.

Определение недостаточной подгонки

Недооптимизацию обычно диагностируют, оценивая производительность модели во время и после обучения:

• Высокая ошибка обучения: Модель плохо работает даже на тех данных, на которых она обучалась. Ключевые метрики, такие как точность, прецизионность, отзыв или F1 score, низкие, а значение функции потерь остается высоким.
• Высокая ошибка при валидации/тестировании: Модель также плохо работает на невидимых валидационных или тестовых данных. Разрыв в производительности между ошибками обучения и проверки обычно невелик, но обе ошибки неприемлемо высоки.
• Кривые обучения: Построение графиков потерь/метрик при обучении и проверке в зависимости от количества тренировочных эпох может выявить недостаточную подгонку. Если обе кривые выходят на плато при высоком уровне ошибок, то модель, скорее всего, недонастроена. Ты можешь отслеживать их с помощью таких инструментов, как TensorBoard или Weights & Biases. Понимание специфических метрик производительностиYOLO также жизненно важно.

Решение проблемы недостаточной подгонки

Несколько стратегий могут помочь преодолеть недостаточное соответствие:

• Увеличь сложность модели: Используй более мощную архитектуру модели с большим количеством параметров, слоев или нейронов. Например, переходи от более простого CNN к более продвинутой архитектуре, такой как Ultralytics YOLO11 для задач обнаружения объектов.
• Улучши инженерию характеристик: Создавай более информативные характеристики на основе существующих данных или подключай новые источники релевантных данных.
• Увеличь продолжительность обучения: Обучай модель большее количество эпох, чтобы у нее было достаточно времени для изучения паттернов данных. Ознакомься с советами по обучению модели.
• Уменьши регуляризацию: Уменьши силу методов регуляризации (например, снизь параметр регуляризации лямбда, уменьши вероятность отсева).
• Обеспечь достаточное количество данных: Собери больше тренировочных примеров. Если собрать больше данных не представляется возможным, то такие техники, как увеличение данных, могут искусственно увеличить разнообразие обучающих данных. Управление наборами данных можно упростить с помощью таких платформ, как Ultralytics HUB.

Заниженная посадка против завышенной посадки

Недоучет и переучет - это две стороны одной медали, представляющие собой провалы в обобщении модели.

• Недооптимизация: Модель слишком проста (большое смещение). Она не может уловить основные тенденции в данных, что приводит к низкой производительности как на тренировочных, так и на тестовых наборах.
• Избыточная подгонка: Модель слишком сложная (высокая дисперсия). Она слишком хорошо изучает обучающие данные, включая шум и случайные флуктуации, что приводит к отличной производительности на обучающем множестве, но плохой производительности на невидимых данных.

Задача ML - найти "сладкую точку" между недооптимизацией и переоптимизацией, что часто обсуждается в контексте компромисса "смещение-вариация", когда модель изучает истинные базовые закономерности, не запоминая шум.

Реальные примеры недостаточной подгонки

1. Простой классификатор изображений: Обучи очень простую конволюционную нейронную сеть (CNN) (например, всего с одним или двумя конволюционными слоями) сложной задаче классификации изображений, например классификации тысяч категорий объектов в ImageNet. Модель, скорее всего, не справится с задачей, потому что ее ограниченные возможности не позволят ей обучиться сложным признакам, необходимым для эффективного различения множества классов. И точность обучения, и точность проверки останутся низкими.
2. Основы предиктивного обслуживания: Использование простой линейной модели для прогнозирования отказов машины на основе только рабочей температуры. Если на самом деле на отказы влияет сложное взаимодействие таких факторов, как вибрация, возраст, давление и температурные нелинейности, то линейная модель будет недооценена. Она не сможет отразить истинную сложность, что приведет к низкой эффективности прогностического моделирования и не позволит точно предвидеть отказы. Необходимо использовать более сложные модели или улучшенные характеристики. Такие фреймворки, как PyTorch или TensorFlow предлагают инструменты для построения более сложных моделей.