CPU

중앙 처리 장치(CPU)는 컴퓨터의 '두뇌' 역할을 하는 핵심 구성 요소로, 하드웨어와 소프트웨어로부터의 명령어를 해석하고 실행하는 책임을 맡습니다. 인공지능(AI) 분야에서 CPU 특히 전력 효율이 중요한 에지 디바이스에서 데이터 처리, 시스템 조정, 추론 실행에 핵심적인 역할을 수행합니다. 딥러닝 모델 훈련과 같은 고강도 작업은 GPU 같은 특수 하드웨어와 연관되지만, 전체 머신러닝(ML) 파이프라인에는 CPU .

인공지능 워크플로우에서 CPU의 역할

GPU는 훈련 과정에서 대규모 병렬 처리 능력으로 주목받지만, 컴퓨터 비전(CV) 라이프사이클의 여러 핵심 단계에서는 CPU 주력 역할을 CPU . 일반적으로 x86 (Intel, AMD) 또는 ARM 설계 기반인 CPU 아키텍처는 순차적 처리와 복잡한 논리 제어에 최적화되어 있습니다.

• 데이터 전처리: 신경망이 학습하기 전에 데이터를 준비해야 합니다. CPU는 파일 로딩, 데이터 정리, NumPy와 같은 라이브러리를 활용한 복잡한 변환 작업에 탁월합니다. NumPy 및 OpenCV.
• 에지 추론: 실제 환경 배포 시 대규모 서버에서 모델을 실행하는 것이 항상 가능한 것은 아닙니다. CPU를 활용하면 노트북이나 라즈베리 파이 같은 소비자용 하드웨어에서도 모델을 효율적으로 배포할 수 있습니다. 예를 들어 노트북에서 Ultralytics 실행하거나 라즈베리 파이에서 모델을 구동하는 것이 가능합니다.
• 후처리: 모델이 원시 확률을 출력한 후, CPU 객체 탐지에서 중복 예측을 걸러내고 결과를 정제하기 위한 최소값 억제(NMS) 와 같은 최종 논리를 처리합니다.

CPU . GPU . TPU

하드웨어 환경을 이해하는 것은 머신 러닝 운영(MLOps)을 최적화하는 데 매우 중요합니다. 이러한 프로세서들은 아키텍처와 이상적인 사용 사례 측면에서 크게 다릅니다.

• CPU: 다용도와 복잡한 논리를 위해 설계되었습니다. 몇 개의 강력한 코어를 갖추고 있으며, 작업들을 순차적으로 처리합니다. 데이터 증강, 파이프라인 관리, 소규모 배치에 대한 저지연 추론에 가장 적합합니다.
• GPU 그래픽 처리 장치): 원래 그래픽 처리를 위해 개발된 GPU는 병렬 처리를 위해 설계된 수천 개의 소형 코어를 갖추고 있습니다. 모델 훈련의 표준으로 사용되는 이유는 CPU 훨씬 빠르게 행렬 연산을 수행할 수 있기 때문입니다.
• TPU Tensor 장치): Google tensor 위해 특별히 개발한 전용 회로(ASIC). 특정 작업 부하에는 매우 효율적이지만, CPU 범용적인 유연성은 부족합니다.

실제 애플리케이션

CPU는 비용, 가용성 및 에너지 소비가 대규모 원시 처리량 요구보다 우선시되는 애플리케이션에서 자주 선택되는 하드웨어입니다.

1. 스마트 보안 카메라: 보안 경보 시스템에서 카메라는 종종 비디오 피드를 로컬에서 처리합니다. CPU 기반 객체 감지 모델은 사람을 식별하거나 차량을 감지하여 클라우드에 비디오를 전송하지 않고도 경보를 발령할 수 있어, 대역폭과 사용자 프라이버시를 보호합니다.
2. 산업 자동화: 공장 현장에서는 예측 유지보수 시스템이 CPU를 활용해 기계에서 수집된 센서 데이터를 모니터링합니다. 이 시스템은 진동이나 온도 급상승을 실시간으로 분석해 고장을 예측함으로써, 고가의 GPU 없이도 원활한 제조 자동화를 보장합니다.

Ultralytics CPU 에서의 추론 실행

개발자들은 서버리스 컴퓨팅 환경이나 저전력 장치와의 호환성을 검증하기 위해 모델을 CPU에서 테스트하는 경우가 많습니다. Ultralytics 사용하면 CPU 쉽게 타겟팅할 수 있어 애플리케이션이 어디서나 실행되도록 보장합니다.

다음 예제는 경량 모델을 로드하고 추론을 CPU 실행하는 방법을 보여줍니다:

from ultralytics import YOLO

# Load the lightweight YOLO26 nano model
# Smaller models are optimized for faster CPU execution
model = YOLO("yolo26n.pt")

# Run inference on an image, explicitly setting the device to 'cpu'
results = model.predict("https://ultralytics.com/images/bus.jpg", device="cpu")

# Print the detection results (bounding boxes)
print(results[0].boxes.xywh)

Intel 성능을 더욱 향상시키기 위해 개발자는 모델을 OpenVINO 형식으로 내보낼 수 있습니다. 이 형식은 x86 아키텍처에 특화된 신경망 구조를 최적화합니다. 데이터셋 관리 및 배포 오케스트레이션을 위해 Ultralytics 같은 도구를 활용하면 주석 부착부터 에지 실행까지의 워크플로를 간소화할 수 있습니다.