CPU

Papel en la IA y el aprendizaje automático

Las CPU son procesadores de propósito general diseñados para manejar una amplia variedad de tareas de forma secuencial y rápida. Sus características clave incluyen la velocidad del reloj, que determina cuántas instrucciones puede ejecutar por segundo, y el número de núcleos, que permite la ejecución paralela de múltiples tareas. Aunque las CPU modernas tienen varios núcleos, no suelen ser tan masivamente paralelas como las GPU.

En los flujos de trabajo de IA/ML, las CPU son esenciales para:

• Operaciones del sistema: Ejecutar el sistema operativo, gestionar los recursos del sistema y orquestar el flujo de trabajo general.
• Preprocesamiento de datos: Tareas como la carga de conjuntos de datos, la limpieza de datos, la transformación y el aumento a menudo implican operaciones lógicas y de archivo complejas que se adaptan bien a las CPU. Muchos pasos de la preparación de datos para modelos como Ultralytics YOLO dependen en gran medida del procesamiento de CPU . Más información sobre la preparación de datos para proyectos de visión por ordenador.
• Tareas secuenciales: Ejecución de partes de una tubería ML que no son fácilmente paralelizables, como cierta lógica de control o pasos algorítmicos específicos.
• Inferencia en determinados dispositivos: Ejecutar la inferencia para modelos más pequeños o en dispositivos sin aceleradores de IA dedicados(Edge AI). Muchas aplicaciones despliegan modelos en formatos como ONNX o utilizan tiempos de ejecución como OpenVINO deIntel para una inferencia eficiente en CPU . Los modelos Ultralytics admiten la exportación a varios formatos adecuados para el despliegue en CPU , consulta nuestra documentación sobre exportación de modelos para obtener más detalles.
• Gestión de modelos: Las tareas relacionadas con el despliegue y el servicio de modelos suelen ejecutarse principalmente en CPU.

CPU vs. GPU y TPU

La principal diferencia radica en la arquitectura y los objetivos de optimización.

• CPUs: Optimizadas para la ejecución de baja latencia de diversas tareas, a menudo secuenciales. Tienen unos pocos núcleos potentes. Piensa en ellas como gestores versátiles que manejan rápidamente muchos tipos diferentes de tareas, una tras otra, o unas cuantas simultáneamente. Los principales fabricantes de CPU , como Intel y AMD, mejoran continuamente el rendimiento y la eficiencia de los núcleos.
• GPU: Optimizadas para cálculos paralelos masivos de alto rendimiento, en particular las operaciones matriciales y vectoriales habituales en el Aprendizaje Profundo. Tienen miles de núcleos más sencillos. Ideales para el entrenamiento de grandes modelos y la inferencia de alto rendimiento.
• TPUs: El hardware personalizado deGoogle diseñado específicamente para acelerar las cargas de trabajo de ML, en particular las creadas con TensorFlow. Ofrecen un alto rendimiento y eficiencia para tipos específicos de cálculos de redes neuronales.

Aunque el entrenamiento de grandes modelos de aprendizaje profundo como YOLOv10 es significativamente más rápido en GPUs o TPUs, las CPUs son indispensables para el sistema en general y para tareas específicas dentro del ciclo de vida del ML. Comprender el papel de la CPU ayuda a optimizar los sistemas completos de IA, desde la preparación de los datos hasta su despliegue en diversas plataformas, incluidos los dispositivos de borde con recursos limitados como la Raspberry Pi.

Ejemplos reales de IA/ML con CPU

1. Preprocesamiento del Procesamiento del Lenguaje Natural (PLN): La tokenización del texto, la realización de la separación por raíces/lematización y la creación de listas de vocabulario para los modelos de PLN suelen ser tareas CPU debido a su naturaleza secuencial y a su dependencia de complejas operaciones y búsquedas de cadenas. Herramientas como los tokenizadores deHugging Face Face suelen aprovechar la eficiencia de CPU para estos pasos.
2. Detección de anomalías en los registros del sistema: El análisis de secuencias de eventos o registros del sistema para detectar patrones inusuales a menudo implica sistemas basados en reglas o modelos ML más sencillos (como SVM o Random Forest) que pueden ejecutarse eficientemente en CPUs para la monitorización en tiempo real sin requerir hardware especializado. Esto es crucial para la observabilidad del sistema.