Эпоха

Как работают эпохи

Во время обучения модели набор данных обычно слишком велик, чтобы обрабатывать его весь сразу из-за нехватки памяти. Поэтому его делят на более мелкие куски, называемые партиями. Модель обрабатывает одну партию за раз, вычисляет ошибку (потерю) и обновляет свои веса с помощью алгоритма оптимизации, например градиентного спуска. Эпоха завершается только после того, как модель обработала все партии, охватывающие весь обучающий набор данных. Повторение этого процесса в течение нескольких эпох позволяет модели более эффективно изучать сложные закономерности и взаимосвязи внутри данных.

Эпоха vs. Итерация vs. Размер партии

Важно отличать эпоху от смежных терминов:

• Эпоха: Один полный цикл через весь тренировочный набор данных.
• Размер партии: Количество тренировочных образцов, обрабатываемых перед обновлением весов модели.
• Итерация: Однократное обновление весов модели. Итерация предполагает обработку одной партии данных.

Взаимосвязь простая: если обучающий набор данных содержит 10 000 образцов, а размер партии равен 100, то одна эпоха состоит из 100 итераций (10 000 образцов / 100 образцов на партию).

Важность эпох в обучении

Обучение модели в течение нескольких эпох имеет решающее значение для сходимости, то есть для достижения моделью стабильного состояния, когда ее производительность оптимальна или близка к оптимальной. Каждая эпоха дает модели еще один шанс обучиться на основе паттернов данных. Однако количество эпох - это критический гиперпараметр.

• Слишком мало эпох: модель может обучаться недостаточно, что приведет к недостаточной подгонке, когда она плохо работает даже на тренировочных данных.
• Слишком много эпох: модель может слишком хорошо изучить тренировочные данные, включая шум и специфические детали, что приведет к переподгонке. Модель с избыточной подгонкой хорошо работает на обучающих данных, но плохо на невидимых данных(валидационных данных или реальных примерах).

Мониторинг показателей производительности на отдельном валидационном множестве во время обучения помогает определить оптимальное количество эпох, часто используя такие техники, как ранняя остановка, чтобы прекратить обучение, когда показатели валидации перестают улучшаться.

Примеры из реальной жизни

1. Обнаружение объектов с помощью Ultralytics YOLO: когда обучение Ultralytics YOLO модели, например YOLOv8 или YOLO11На таком наборе данных, как COCO, ты можешь задать тренировку на 100 эпох. В каждую эпоху модель обрабатывает весь набор обучающих изображений COCO (разделенных на партии), корректируя свои веса, чтобы лучше идентифицировать и находить объекты. Платформы вроде Ultralytics HUB предоставляют инструменты для управления этим процессом обучения и отслеживания прогресса по эпохам.
2. Обработка естественного языка (NLP): Обучение такой модели, как BERT, для анализа настроения на наборе данных отзывов покупателей предполагает несколько эпох. Например, обучение на 5 эпох означает, что модель прочитывает все отзывы пять раз. С каждым проходом (эпохой), используя такие библиотеки, как Hugging Face Transformers, часто через такие фреймворки, как PyTorch или TensorFlowмодель улучшает свою способность классифицировать отзывы как положительные, отрицательные или нейтральные.

Эпохи - это краеугольный камень итеративного обучения в ML, балансирующий между необходимостью достаточного воздействия на данные и риском чрезмерной подгонки. Выбор правильного количества эпох, часто путем тщательного экспериментирования и мониторинга, является ключом к построению эффективных моделей. Больше определений ты можешь найти в таких ресурсах, как Google Machine Learning Glossary.