Ajuste de hiperparámetros

Comprender los hiperparámetros

Los hiperparámetros definen propiedades de nivel superior del modelo, como su complejidad o la rapidez con que debe aprender. Algunos ejemplos comunes son la tasa de aprendizaje utilizada en los algoritmos de optimización, el tamaño del lote que determina cuántas muestras se procesan antes de actualizar los parámetros del modelo, el número de capas de una red neuronal o la fuerza de las técnicas de regularización. La elección de los hiperparámetros influye significativamente en los resultados del modelo. Una mala elección puede conducir a un ajuste insuficiente, en el que el modelo es demasiado simple para captar los patrones de los datos, o a un ajuste excesivo, en el que el modelo aprende demasiado bien los datos de entrenamiento, incluido el ruido, y no consigue generalizar.

Por qué es importante ajustar los hiperparámetros

El ajuste eficaz de los hiperparámetros es esencial para construir modelos ML de alto rendimiento. Un modelo bien ajustado consigue una mayor precisión, una convergencia más rápida durante el entrenamiento y una mejor generalización en los datos de prueba. Para tareas complejas como la detección de objetos utilizando modelos como Ultralytics YOLOencontrar los hiperparámetros óptimos puede mejorar drásticamente las métricas de rendimiento, como la Precisión Media Media (mAP) y la velocidad de inferencia, que son fundamentales para las aplicaciones que exigen inferencia en tiempo real. El objetivo es navegar por las compensaciones, como la compensación sesgo-varianza, para encontrar el punto óptimo para un problema y un conjunto de datos determinados.

Técnicas de ajuste de hiperparámetros

Existen varias estrategias para buscar los mejores valores de los hiperparámetros:

• Búsqueda en cuadrícula: Prueba exhaustivamente todas las combinaciones posibles de valores de hiperparámetros especificados. Aunque es exhaustiva, puede ser costosa desde el punto de vista informático, especialmente con muchos hiperparámetros. Más información sobre la Búsqueda en Cuadrícula.
• Búsqueda aleatoria: Toma muestras de combinaciones de hiperparámetros aleatoriamente a partir de distribuciones especificadas. Suele ser más eficaz que la Búsqueda en Cuadrícula, ya que no siempre se encuentran buenos parámetros en una cuadrícula uniforme. Explora los detalles de la Búsqueda aleatoria.
• Optimización Bayesiana: Utiliza modelos de probabilidad para predecir qué hiperparámetros pueden dar mejores resultados, centrando la búsqueda en las áreas prometedoras. Suele ser más eficaz que la búsqueda aleatoria o en cuadrícula. Frameworks como Optuna proporcionan implementaciones.
• Algoritmos evolutivos: Utiliza conceptos inspirados en la evolución biológica, como la mutación y la selección, para refinar iterativamente los hiperparámetros. Ultralytics YOLOv5 incluye una guía sobre Evolución de hiperparámetros.

Herramientas como Barridos deWeights & Biases y KerasTuner ayudan a automatizar y gestionar estos procesos de ajuste.

Ajuste de hiperparámetros vs. conceptos relacionados

Es importante distinguir el ajuste de hiperparámetros de los conceptos de ML relacionados:

• Parámetros del modelo frente a hiperparámetros: Los parámetros del modelo (por ejemplo, los pesos en una CNN) se aprenden a partir de los datos durante el entrenamiento. Los hiperparámetros (por ejemplo, velocidad de aprendizaje, número de filtros) se establecen antes del entrenamiento para configurar el proceso de aprendizaje.
• Algoritmos de optimización frente a ajuste de hiperparámetros: Los algoritmos de optimización (como Adam o SGD) ajustan los parámetros del modelo para minimizar una función de pérdida. El ajuste de hiperparámetros encuentra los ajustes óptimos para estos algoritmos y otros aspectos del entrenamiento, incluida la elección del optimizador o su tasa de aprendizaje específica.
• Regularización frente a ajuste de hiperparámetros: Las técnicas de regularización (por ejemplo, capas de abandono, penalizaciones L1/L2) ayudan a evitar el sobreajuste. La fuerza o el índice de estas técnicas son en sí hiperparámetros que hay que ajustar.

Aplicaciones en el mundo real

El ajuste de hiperparámetros se aplica en varios dominios:

1. Análisis de imágenes médicas: Al entrenar un modeloYOLO Ultralytics para la detección de tumores, el ajuste de hiperparámetros como la tasa de aprendizaje, los ajustes de aumento de datos (p. ej., rango de rotación, ajustes de brillo) y las opciones de arquitectura del modelo (como la profundidad de la columna vertebral) es crucial para maximizar la sensibilidad y especificidad de la identificación de tumores en exploraciones como resonancias magnéticas o tomografías computarizadas. Esto garantiza que el modelo detecte con fiabilidad las anomalías, minimizando al mismo tiempo los falsos positivos.(Explora las soluciones de IA en Sanidad).
2. Conducción autónoma: En el desarrollo de sistemas de percepción para vehículos autónomos, el ajuste de hiperparámetros optimiza los modelos de detección de objetos para identificar con precisión peatones, vehículos y señales de tráfico en diversas condiciones (día, noche, lluvia). El ajuste de parámetros como los umbrales de confianza en la detección, los ajustes de Supresión No Máxima (NMS ) y la resolución de la imagen de entrada ayuda a equilibrar la velocidad y la precisión de la detección, algo vital para las aplicaciones críticas para la seguridad.(Ver soluciones de IA en Automoción).

Ajuste de hiperparámetros con Ultralytics

Ultralytics proporciona herramientas para simplificar el ajuste de los hiperparámetros de los modelos YOLO . El sitio Ultralytics Tuner clasedocumentado en el Guía de ajuste de hiperparámetros, automatiza el proceso mediante algoritmos evolutivos. Integración con plataformas como Ray Tune ofrece más capacidades para estrategias de búsqueda distribuida y avanzada, ayudando a los usuarios a optimizar sus modelos de forma eficiente para conjuntos de datos y tareas específicas utilizando recursos como Ultralytics HUB.