Sobreajuste

Comprender el sobreajuste

El sobreajuste surge porque los modelos ML pretenden minimizar los errores en los datos de entrenamiento. Si un modelo posee una complejidad excesiva (por ejemplo, demasiados parámetros o capas), puede ajustarse incluso al ruido aleatorio presente en el conjunto de entrenamiento. Este ruido no representa verdaderos patrones subyacentes y es poco probable que esté presente en nuevos conjuntos de datos. Imagina que adaptas un traje perfectamente a las medidas exactas de alguien en un día concreto; podría no quedarle bien si su peso fluctúa ligeramente o si se lo prueba otra persona. En el ML, este "ajuste perfecto" en los datos de entrenamiento se traduce en inflexibilidad y mal rendimiento en los datos del mundo real, lo que suele denominarse mala generalización.

El problema opuesto es la inadaptación, cuando un modelo es demasiado simple para captar la estructura subyacente de los datos. Un modelo insuficientemente ajustado funciona mal tanto en los datos de entrenamiento como en los nuevos, porque no ha aprendido lo suficiente. El objetivo es encontrar un equilibrio óptimo, a menudo discutido en el contexto del equilibrio sesgo-varianza, creando un modelo que generalice bien a los datos no vistos.

Ejemplos reales de sobreajuste

• Análisis de imágenes médicas: En el análisis de imágenes médicas para la detección de enfermedades, un modelo sobreajustado puede llegar a ser excepcionalmente bueno en la identificación de enfermedades en el conjunto específico de imágenes en el que fue entrenado, tal vez mediante el aprendizaje de artefactos únicos o ruido presente sólo en ese conjunto de datos (por ejemplo, de un escáner específico). Cuando se le presentan nuevas imágenes médicas de máquinas, poblaciones de pacientes o condiciones de imagen diferentes, el modelo podría no generalizarse, lo que podría dar lugar a diagnósticos inexactos en entornos clínicos. Por ejemplo, un modelo entrenado para detectar tumores mediante resonancias magnéticas del Hospital A podría ajustarse en exceso a las características del escáner de resonancia magnética específico de ese hospital y obtener malos resultados con las resonancias del Hospital B, aunque la patología subyacente sea idéntica.
• Conducción autónoma: Un modelo de detección de objetos para un vehículo autónomo entrenado excesivamente con datos diurnos y de tiempo despejado podría sobreajustarse a estas condiciones. Podría funcionar bien reconociendo peatones y otros vehículos a plena luz del sol, pero tener problemas importantes durante la noche, la lluvia, la niebla o la nieve, y no detectar objetos de forma fiable debido a la falta de generalización a estas entradas visuales variadas, lo que supondría un grave riesgo para la seguridad.

Evitar el sobreajuste

Varias técnicas pueden ayudar a mitigar el sobreajuste y mejorar la generalización del modelo:

• Simplifica el modelo: Utilizar una arquitectura de modelo menos compleja (menos capas o parámetros) puede evitar que el modelo se ajuste al ruido. Técnicas como la poda de modelos también pueden reducir la complejidad.
• Aumento de datos: Aumentar artificialmente el tamaño y la diversidad del conjunto de datos de entrenamiento ayuda al modelo a aprender características más robustas. Las técnicas de aumento de datosUltralytics YOLO incluyen rotaciones, traslaciones, escalas y cambios de color.
• Regularización: Añadir penalizaciones a la función de pérdida basadas en los parámetros del modelo desalienta los modelos demasiado complejos. Entre los métodos habituales están la regularización L1 y L2.
• Detención temprana: Controlar el rendimiento del modelo en un conjunto de datos de validación separado durante el entrenamiento y detener el proceso cuando el rendimiento de validación empiece a degradarse, aunque el rendimiento de entrenamiento siga mejorando. Esto evita que el modelo aprenda los datos de entrenamiento durante demasiadas épocas.
• Validación cruzada: Las técnicas como la validación cruzada K-Fold proporcionan una estimación más sólida del rendimiento del modelo en datos no vistos y ayudan a seleccionar modelos que generalicen mejor.
• Desactivación: Poner a cero aleatoriamente una fracción de las activaciones neuronales durante el entrenamiento fuerza a la red a aprender más representaciones redundantes, reduciendo la dependencia de neuronas específicas. Consulta la explicación del concepto de abandono.

Al comprender y abordar el sobreajuste, los desarrolladores pueden construir modelos de IA más fiables y eficaces. Herramientas como Ultralytics HUB pueden ayudar en el seguimiento de experimentos y la evaluación de modelos, contribuyendo a la detección y mitigación del sobreajuste durante el ciclo de vida de desarrollo del modelo.