Aprendizaje activo

Cómo funciona el aprendizaje activo

El proceso de Aprendizaje Activo suele seguir un ciclo iterativo, que permite que el modelo mejore de forma incremental con datos específicos:

1. Entrenamiento inicial del modelo: Un modelo, como un Ultralytics YOLO para la detección de objetos o la segmentación de imágenes, se entrena en un pequeño conjunto de datos inicialmente etiquetados.
2. Consulta de datos no etiquetados: El modelo entrenado se utiliza para hacer predicciones(inferencia) sobre un conjunto de datos no etiquetados.
3. Aplicación de la estrategia de consulta: Una estrategia de consulta analiza las predicciones del modelo (por ejemplo, basándose en la confianza o la incertidumbre de la predicción) para seleccionar los puntos de datos no etiquetados más informativos, es decir, aquellos sobre los que el modelo está menos seguro o que se espera que proporcionen la mayor cantidad de información nueva.
4. Anotación Oráculo: Los puntos de datos seleccionados se presentan a un anotador humano (el oráculo) para que los etiquete. Aquí son cruciales unas prácticas eficaces de recogida y anotación de datos.
5. Reentrenamiento del modelo: Los nuevos datos etiquetados se añaden al conjunto de entrenamiento, y el modelo se vuelve a entrenar (o ajustar) con este conjunto de datos ampliado.
6. Iteración: El ciclo se repite desde el paso 2 hasta que se alcanza el nivel de rendimiento deseado, se agota el presupuesto de etiquetado o no quedan muestras significativamente informativas.

Estrategias de consulta

La eficacia del Aprendizaje Activo depende en gran medida de su estrategia de consulta: el algoritmo utilizado para seleccionar qué puntos de datos sin etiquetar deben etiquetarse a continuación. El objetivo es elegir las muestras que, una vez etiquetadas, conducirán probablemente a la mayor mejora en el rendimiento del modelo. Entre las estrategias habituales se incluyen:

• Muestreo de incertidumbre: Selecciona los casos en los que el modelo tiene menos confianza en su predicción. Suele medirse por la probabilidad de predicción, la entropía o el margen entre las mejores predicciones.
• Consulta por Comité (QBC): Utiliza un conjunto de modelos. Se seleccionan para el etiquetado los casos en los que los miembros del comité están más en desacuerdo con la predicción.
• Cambio esperado del modelo: Selecciona las instancias que provocarían el mayor cambio en los parámetros o gradientes del modelo si se conocieran sus etiquetas.
• Enfoques basados en la densidad: Da prioridad a las instancias que no sólo son inciertas, sino también representativas de las distribuciones de datos subyacentes.

En recursos como el estudio bibliográfico sobre Aprendizaje Activo de Burr Settles se puede encontrar una visión global de las estrategias.

Relevancia y beneficios

El Aprendizaje Activo reduce significativamente la carga y el coste asociados al etiquetado de datos, que suele ser un importante cuello de botella en el desarrollo de modelos sólidos de Aprendizaje Profundo (AD). Al centrar estratégicamente los esfuerzos de anotación, permite a los equipos:

• Consigue mayor precisión con menos datos: Obtén un mejor rendimiento del modelo en comparación con el muestreo aleatorio, dado el mismo presupuesto de etiquetado.
• Reduce los costes de etiquetado: Minimiza el tiempo y los recursos dedicados a la anotación manual.
• Acelera el desarrollo de modelos: Alcanza más rápidamente los niveles de rendimiento deseados priorizando los datos más impactantes. Explora cómo el Aprendizaje Activo acelera el desarrollo de la Visión por Computador.
• Mejorar la robustez del modelo: Centrarse en ejemplos ambiguos o difíciles puede ayudar a que los modelos generalicen mejor.

Aplicaciones en el mundo real

El Aprendizaje Activo se aplica en diversos campos en los que los datos etiquetados son una limitación:

• Imágenes médicas: En tareas como la detección de tumores mediante modelos YOLO , el tiempo de los radiólogos expertos es valioso. El Aprendizaje Activo selecciona las exploraciones más ambiguas para su revisión, optimizando el uso de los recursos de los expertos. Esto es crucial para desarrollar soluciones de IA sanitarias eficaces.
• Procesamiento del Lenguaje Natural (PLN): Para tareas como el análisis de sentimientos o el reconocimiento de entidades con nombre (NER), la identificación de muestras de texto informativas (por ejemplo, aquellas con sentimientos ambiguos o entidades poco frecuentes) para su etiquetado mejora la precisión del modelo de forma eficaz. Herramientas de plataformas como Hugging Face suelen beneficiarse de estas técnicas.
• Vehículos autónomos: La selección de escenarios de conducción difíciles o poco frecuentes (por ejemplo, condiciones meteorológicas inusuales, intersecciones complejas) a partir de grandes cantidades de datos de conducción sin etiquetar para su anotación ayuda a mejorar la seguridad y fiabilidad de los sistemas de conducción autónoma.
• Análisis de Imágenes de Satélite: La identificación de rasgos o cambios específicos en grandes conjuntos de datos de imágenes de satélite puede acelerarse haciendo que el modelo consulte regiones inciertas para que las revisen expertos.

Aprendizaje activo frente a conceptos relacionados

Es importante distinguir el Aprendizaje Activo de otros paradigmas de aprendizaje que también utilizan datos no etiquetados:

• Aprendizaje semisupervisado: Utiliza simultáneamente datos etiquetados y no etiquetados durante el entrenamiento del modelo. A diferencia del Aprendizaje Activo, suele utilizar pasivamente todos los datos sin etiquetar disponibles, en lugar de consultar selectivamente instancias específicas para obtener etiquetas.
• Aprendizaje Autosupervisado: Aprende representaciones a partir de datos no etiquetados creando tareas previas (por ejemplo, predecir una parte enmascarada de una imagen). No requiere anotación humana durante su fase de preentrenamiento, mientras que el Aprendizaje Activo depende de un oráculo para las etiquetas.
• Aprendizaje por refuerzo: Aprende por ensayo y error mediante interacciones con un entorno, recibiendo recompensas o penalizaciones por las acciones. No implica la consulta de etiquetas explícitas como el Aprendizaje Activo.
• Aprendizaje federado: Se centra en el entrenamiento de modelos a través de dispositivos descentralizados, manteniendo los datos locales, abordando principalmente las preocupaciones sobre la privacidad de los datos. El Aprendizaje Activo se centra en la adquisición eficiente de etiquetas. A veces, estas técnicas pueden combinarse.

Herramientas y aplicación

Implementar el Aprendizaje Activo a menudo implica integrar modelos ML con herramientas de anotación y gestionar el flujo de trabajo de los datos. Los marcos y bibliotecas como scikit-learn ofrecen algunas funcionalidades, mientras que existen bibliotecas especializadas para tareas específicas. El software de anotación, como Label Studio, puede integrarse en las cadenas de aprendizaje activo, permitiendo a los anotadores proporcionar etiquetas para las muestras consultadas. Plataformas como DagsHub ofrecen herramientas para construir y gestionar estos conductos, como se explica en su charlaYOLO VISION 2023 sobre Conductos de Aprendizaje Activo DagsHub . La gestión eficaz de los conjuntos de datos en evolución y de los modelos entrenados es crucial, y plataformas como Ultralytics HUB proporcionan infraestructura para organizar estos activos a lo largo del ciclo de vida del desarrollo. Explora el repositorio GitHubUltralytics y únete a la ComunidadUltralytics para conocer los debates y recursos relacionados con la aplicación de técnicas avanzadas de ML.