X
YOLO Vision 2024 is here!
YOLO Vision 24
27 de septiembre de 2024
YOLO Vision 24
Free hybrid event
Cheque verde
Enlace copiado en el portapapeles

Medir el rendimiento de la IA para sopesar el impacto de tus innovaciones

Puedes controlar el éxito de tus innovaciones de IA con los KPI y las métricas de rendimiento adecuados. Aprende a seguir y optimizar el impacto de las aplicaciones de IA.

Anteriormente hemos explorado cómo puede utilizarse la IA en distintos sectores, como la sanidad, la fabricación y el turismo. También hemos estudiado cómo la IA puede mejorar las tareas laborales cotidianas y hemos debatido las principales ideas empresariales de IA. Todos estos debates conducen inevitablemente a la misma pregunta clave: ¿cómo podemos medir el éxito de estas implantaciones de IA? Es una pregunta importante, porque no basta con implantar soluciones de IA. Garantizar que estas soluciones realmente producen resultados es lo que hace que cambien las reglas del juego. 

Podemos medir las métricas de rendimiento de la IA para determinar si un modelo de IA es realmente eficaz a la hora de hacer más eficientes los procesos, impulsar la innovación o resolver problemas. Al centrarnos en los indicadores clave de rendimiento (KPI) adecuados, podemos comprender lo bien que funciona una solución de IA y dónde podría necesitar mejoras.

En este artículo, veremos cómo medir el éxito de las implantaciones de IA con los KPI más relevantes. Trataremos las diferencias entre los KPI empresariales y los KPI de rendimiento de la IA, repasaremos métricas clave como la precisión y la recuperación, y te ayudaremos a elegir los mejores KPI para tus soluciones de IA específicas.

La diferencia entre los KPI empresariales de IA y los KPI de rendimiento de IA

Fig. 1. Comparación de los KPI de negocio de la IA y los KPI de rendimiento de la IA.

Cuando piensas en los KPI, es natural suponer que se refieren a métricas empresariales como el rendimiento de la inversión (ROI), el ahorro de costes o los ingresos generados, especialmente cuando hablamos de IA empresarial. Estos KPI empresariales de IA miden cómo la IA repercute en el éxito general de una empresa y se alinean con objetivos empresariales más amplios. 

Sin embargo, los KPI de rendimiento de la IA se centran en lo bien que funciona el propio sistema de IA, utilizando métricas como la exactitud, la precisión y la recuperación. Más adelante entraremos en los detalles de estas métricas, pero en esencia, mientras que los KPI empresariales muestran los beneficios financieros y estratégicos de la IA, los KPI de rendimiento garantizan que un modelo de IA está haciendo su trabajo con eficacia.

En realidad, algunas métricas pueden servir para ambos fines. Por ejemplo, el aumento de la eficiencia, como la reducción del tiempo o de los recursos necesarios para completar una tarea, puede ser tanto un KPI de rendimiento (que muestre lo bien que funciona la solución de IA) como un KPI empresarial (que mida el ahorro de costes y las mejoras de productividad). La satisfacción del cliente es otra métrica transversal. Puede reflejar el éxito de una herramienta de atención al cliente impulsada por la IA tanto en términos de su rendimiento técnico como de su impacto en los objetivos empresariales generales.

Comprender las métricas clave del rendimiento de la IA

Hay algunas métricas comunes que se utilizan para medir el rendimiento de un modelo de IA. Primero veremos su definición y cómo se calculan. Después, veremos cómo se pueden controlar estas métricas.

Precisión

La precisión es una métrica que mide la exactitud con la que un modelo de IA identifica los verdaderos positivos (casos en los que el modelo identifica correctamente un objeto o condición como se supone que debe hacerlo). Por ejemplo, en un sistema de reconocimiento facial, un verdadero positivo se produciría cuando el sistema reconoce e identifica correctamente la cara de una persona para cuya detección ha sido entrenado. 

Para calcular la precisión, cuenta primero el número de verdaderos positivos. A continuación, puedes dividirlo por el número total de elementos que el modelo etiquetó como positivos. Este total incluye tanto las identificaciones correctas como los errores, que se denominan falsos positivos. Básicamente, la precisión te indica la frecuencia con la que el modelo acierta cuando afirma haber reconocido algo.


Precision = True Positives / (True Positives + False Positives)

Fig. 2. Comprender la precisión.

Esto es especialmente importante en situaciones en las que las consecuencias de los falsos positivos pueden ser costosas o perjudiciales. Por ejemplo, en la fabricación automatizada, un alto índice de precisión indica que el sistema puede marcar con más exactitud los productos defectuosos y evitar el descarte o la reelaboración innecesarios de artículos buenos. Otro buen ejemplo es la vigilancia de la seguridad. Una alta precisión ayuda a minimizar las falsas alarmas y a centrarse sólo en las amenazas auténticas que necesitan una respuesta de seguridad.

Retirada

La recuperación ayuda a medir la capacidad de un modelo de IA para identificar todos los casos relevantes, o verdaderos positivos, dentro de un conjunto de datos. En pocas palabras, representa lo bien que un sistema de IA puede captar todos los casos reales de una condición u objeto que está diseñado para detectar. La recuperación puede calcularse dividiendo el número de detecciones correctas por el número total de casos positivos que deberían haberse detectado (incluye tanto los casos que el modelo identificó correctamente como los que pasó por alto).


Recall = True Positives / (True Positives + False Negatives)

Consideremos un sistema de imágenes médicas con IA utilizado para la detección del cáncer. En este contexto, la recuperación refleja el porcentaje de casos reales de cáncer que el sistema identifica correctamente. Una alta recuperación es vital en estos casos, porque omitir un diagnóstico de cáncer puede tener graves consecuencias para la atención al paciente.

Precisión frente a recuperación

La precisión y la recuperación son como las dos caras de una misma moneda cuando se trata de evaluar el rendimiento de un modelo de IA, y a menudo requieren un equilibrio. El reto es que mejorar una métrica a menudo puede ir en detrimento de la otra. 

Digamos que presionas para obtener una mayor precisión. El modelo puede volverse más selectivo y ser capaz de identificar sólo los positivos de los que esté muy seguro. Por otra parte, si tu objetivo es mejorar la recuperación, el modelo puede identificar más positivos, pero esto podría incluir más falsos positivos y acabar reduciendo la precisión. 

La clave está en encontrar el equilibrio adecuado entre precisión y recuperación en función de las necesidades específicas de tu aplicación. Una herramienta útil para ello es la curva Precisión-Recuperación, que muestra la relación entre las dos métricas en diferentes umbrales. Analizando esta curva, puedes determinar el punto óptimo en el que el modelo rinde mejor para tu caso de uso específico. Comprender el equilibrio ayuda a ajustar los modelos de IA para que funcionen de forma óptima en los casos de uso previstos.

Fig. 3. Ejemplo de curva Precisión-Recuperación.

Precisión media (mAP)

La Precisión Media Promedio (mAP) es una métrica que se utiliza para evaluar el rendimiento de los modelos de IA en tareas como la detección de objetos, en las que el modelo tiene que identificar y clasificar múltiples objetos dentro de una imagen. mAP te da una única puntuación que muestra el rendimiento del modelo en todas las categorías diferentes para las que ha sido entrenado. Veamos cómo se calcula.

El área bajo una curva de Precisión-Recuperación da la Precisión Media (PA) para esa clase. La PA mide la precisión con la que el modelo realiza predicciones para una clase concreta, teniendo en cuenta tanto la precisión como la recuperación en varios niveles de confianza (los niveles de confianza se refieren al grado de certeza del modelo en sus predicciones). Una vez calculado el PA para cada clase, el mAP se determina promediando estos valores de PA en todas las clases.

Fig. 4. Precisión media de varias clases.

El mAP es útil en aplicaciones como la conducción autónoma, donde es necesario detectar simultáneamente múltiples objetos, como peatones, vehículos y señales de tráfico. Una puntuación mAP alta significa que el modelo funciona bien de forma consistente en todas las categorías, lo que lo hace fiable y preciso en una amplia gama de escenarios.

Calcula las métricas de rendimiento sin esfuerzo

Las fórmulas y métodos de cálculo de las métricas clave de rendimiento de la IA pueden parecer desalentadores. Sin embargo, herramientas como el paqueteUltralytics pueden hacerlo sencillo y rápido. Tanto si trabajas en tareas de detección, segmentación o clasificación de objetos, Ultralytics proporciona las utilidades necesarias para calcular rápidamente métricas importantes como la precisión, la recuperación y la precisión media promedio (mAP).

Para empezar a calcular las métricas de rendimiento con Ultralytics, puedes instalar el paquete Ultralytics como se muestra a continuación.


pip install ultralytics

Para este ejemplo, cargaremos un modelo preentrenado de YOLOv8 y lo utilizaremos para validar las métricas de rendimiento, pero puedes cargar cualquiera de los modelos compatibles proporcionados por Ultralytics. Así es como puedes hacerlo:


from ultralytics import YOLO

# Load a model
model = YOLO("yolov8n.pt")

Una vez cargado el modelo, puedes realizar la validación en tu conjunto de datos. El siguiente fragmento de código te ayudará a calcular varias métricas de rendimiento, como la precisión, la recuperación y el mAP:


# Run the evaluation
results = model.val()

# Print specific metrics
print("Mean average precision:", results.box.map)
print("Precision:", results.box.p)
print("Recall:", results.box.r)

Utilizar herramientas como Ultralytics facilita mucho el cálculo de las métricas de rendimiento, para que puedas dedicar más tiempo a mejorar tu modelo y menos a preocuparte por los detalles del proceso de evaluación.

¿Cómo se mide el rendimiento de la IA tras su implantación?

Cuando desarrollas tu modelo de IA, es fácil probar su rendimiento en un entorno controlado. Sin embargo, una vez desplegado el modelo, las cosas pueden complicarse. Afortunadamente, existen herramientas y buenas prácticas que pueden ayudarte a supervisar tu solución de IA después de su despliegue

Herramientas como Prometheus, Grafana y Evidently AI están diseñadas para realizar un seguimiento continuo del rendimiento de tu modelo. Pueden proporcionar información en tiempo real, detectar anomalías y alertarte de posibles problemas. Estas herramientas van más allá de la monitorización tradicional al ofrecer soluciones automatizadas y escalables que se adaptan a la naturaleza dinámica de los modelos de IA en producción.

Para medir el éxito de tu modelo de IA tras la implantación, aquí tienes algunas buenas prácticas que debes seguir:

  • Establece métricas de rendimiento claras: Decide métricas clave como la exactitud, la precisión y el tiempo de respuesta para comprobar regularmente lo bien que funciona tu modelo.
  • Comprueba periódicamente la desviación de los datos: Vigila los cambios en los datos que maneja tu modelo, ya que pueden afectar a sus predicciones si no se gestionan adecuadamente.
  • Realiza pruebas A/B: Utiliza las pruebas A/B para comparar el rendimiento de tu modelo actual con nuevas versiones o ajustes. Esto te permitirá evaluar cuantitativamente las mejoras o regresiones en el comportamiento del modelo.
  • Documenta y audita el rendimiento: Mantén registros detallados de las métricas de rendimiento y de los cambios realizados en tu sistema de IA. Es crucial para las auditorías, el cumplimiento y la mejora de la arquitectura de tu modelo a lo largo del tiempo.

Seleccionar los KPI óptimos de la IA es sólo el principio

Desplegar y gestionar con éxito una solución de IA depende de elegir los KPI adecuados y mantenerlos actualizados. En general, es vital elegir métricas que pongan de relieve lo bien que está funcionando la solución de IA desde el punto de vista técnico y en términos de impacto empresarial. A medida que cambien las cosas, ya sean avances tecnológicos o cambios en tu estrategia empresarial, es importante revisar y ajustar estos KPI. 

Si mantienes dinámicas tus revisiones de rendimiento, conseguirás que tu sistema de IA siga siendo relevante y eficaz. Si te mantienes al tanto de estas métricas, obtendrás información valiosa que te ayudará a mejorar tus operaciones. Un enfoque proactivo garantiza que tus esfuerzos de IA sean realmente valiosos y ayuden a impulsar tu negocio.

¡Únete a nuestra comunidad e innova con nosotros! Explora nuestro repositorio de GitHub para ver nuestros avances en IA. Descubre cómo estamos transformando sectores como el manufacturero y el sanitario con tecnología de IA pionera. 🚀

Logotipo de FacebookLogotipo de TwitterLogotipo de LinkedInSímbolo de enlace de copia

Leer más en esta categoría

¡Construyamos juntos el futuro
de la IA!

Comienza tu viaje con el futuro del aprendizaje automático