엣지 컴퓨팅

엣지 컴퓨팅이 AI/ML에 중요한 이유

엣지 컴퓨팅은 특히 컴퓨터 비전(CV) 영역에서 인공지능(AI) 과 머신러닝에 혁신적인 변화를 가져올 수 있습니다. 이미지 또는 비디오 스트림 분석과 같은 많은 AI 애플리케이션은 적시에 의사 결정을 내리기 위해 센서 데이터를 즉각적으로 처리해야 합니다. 대량의 데이터를 클라우드로 전송하면 실시간 추론이 필요한 시나리오에서는 용납할 수 없는 지연시간(레이턴시)이 발생하는 경우가 많습니다. 엣지 컴퓨팅은 다음과 같은 정교한 객체 감지 모델을 포함한 ML 모델을 통해 이러한 문제를 직접 해결합니다. Ultralytics YOLO와 같은 정교한 객체 탐지 모델을 포함한 ML 모델을 데이터 소스에서 또는 그 근처에서 직접 실행할 수 있습니다. 이를 통해 응답 시간을 획기적으로 단축하고 네트워크 대역폭을 절약하며, 민감한 정보를 로컬로 유지하여 GDPR과 같은 규정을 준수함으로써 데이터 프라이버시를 크게 개선할 수 있습니다. 엣지 디바이스용으로 특별히 설계된 NVIDIA Jetson 시리즈와 같은 특수 GPU와 TPU (예: Google Coral Edge TPU) 같은 가속기와 같이 강력하면서도 에너지 효율적인 하드웨어의 발전은 이러한 추세에 더욱 박차를 가하고 있습니다. 엣지 AI 디바이스에 컴퓨터 비전 애플리케이션을 배포하는 방법에 대해 자세히 알아보세요.

엣지 컴퓨팅과 엣지 AI 비교

엣지 컴퓨팅과 엣지 AI를 구분하는 것이 중요합니다.

• 엣지 컴퓨팅: 컴퓨팅 작업을 데이터 소스에 더 가깝게 이동시키는 광범위한 인프라와 관행을 말합니다. 분산 처리에 필요한 하드웨어(엣지 디바이스, 서버, 게이트웨이), 네트워킹, 관리 시스템을 포함합니다. 무대라고 생각하면 됩니다.
• 엣지 AI: 특히 이러한 엣지 디바이스에서 직접 AI 및 ML 알고리즘을 실행하는 것을 포함합니다. 엣지 컴퓨팅 인프라를 활용하여 추론과 같은 작업을 로컬에서 수행합니다. 엣지 AI는 무대에서 일어나는 성능입니다.

기본적으로 엣지 AI는 엣지 컴퓨팅 패러다임의 하위 집합 또는 특정 애플리케이션으로, 중앙 집중식 데이터 센터 외부에 AI 기능을 배포하는 데 중점을 둡니다. 실제 엣지 AI 애플리케이션을 더 자세히 살펴볼 수 있습니다.

실제 AI/ML 애플리케이션

엣지 컴퓨팅은 로컬 프로세싱에 의존하는 다양한 혁신적인 AI/ML 애플리케이션을 지원합니다:

• 자율주행 차량: 자율 주행 자동차는 내비게이션, 장애물 회피, 의사 결정을 위해 센서 데이터(카메라, LiDAR)를 즉각적으로 처리해야 합니다. 클라우드에 의존하면 용납할 수 없는 지연 시간이 발생할 수 있습니다. 엣지 컴퓨팅을 사용하면 Tesla나 Waymo에서 개발 중인 차량과 같은 차량이 안전한 운행을 위해 중요한 AI 연산을 온보드에서 수행할 수 있습니다. Ultralytics 모델은 자동차 솔루션의 AI에서 중요한 역할을 할 수 있습니다.
• 스마트 제조: 공장에서는 카메라와 AI 모델이 탑재된 엣지 디바이스인 YOLO11 와 같은 카메라와 AI 모델이 탑재된 엣지 디바이스는 생산 라인에서 실시간 품질 검사를 수행하고, 결함을 즉시 감지하고, 작업자의 안전을 모니터링하고, 방대한 양의 비디오 데이터를 클라우드로 전송하지 않고도 프로세스를 최적화할 수 있습니다. 이를 통해 효율성이 향상되고 즉각적인 개입이 가능합니다. AI가 제조업을 어떻게 향상시키는지 살펴보세요.
• 의료 분야의 AI: 엣지 컴퓨팅은 웨어러블 센서 또는 실내 카메라를 사용하여 실시간 환자 모니터링, 로컬 디바이스에서 의료 영상 데이터의 즉각적인 분석, 시술 중 즉각적인 피드백을 제공하는 스마트 의료 도구를 지원하여 환자 치료 및 데이터 프라이버시를 향상시킵니다.
• 리테일 분석: 매장에서는 더 스마트한 소매 재고 관리를 위해 엣지 디바이스를 사용하고, 레이아웃 최적화를 위해 카메라를 통해 익명으로 고객 행동을 분석하며, Amazon Go와 같은 계산대 없는 결제 시스템을 지원합니다.

엣지 배포를 위한 주요 고려 사항

엣지에 AI 모델을 성공적으로 배포하려면 특정 기술과 도구가 필요한 경우가 많습니다:

• 모델 최적화: 모델 정량화 및 모델 가지치기와 같은 기술은 모델 크기와 계산 요구 사항을 줄여 리소스가 제한된 엣지 하드웨어에서 효율적으로 실행되도록 하는 데 매우 중요합니다. 다음과 같은 프레임워크 TensorRT 와 OpenVINO 와 같은 프레임워크는 특정 하드웨어에 맞게 모델을 최적화하는 데 도움이 됩니다.
• 하드웨어 선택: 애플리케이션의 성능 요구 사항, 전력 예산, 환경 조건에 따라 적합한 엣지 디바이스(Raspberry Pi, NVIDIA Jetson, Google Coral)를 선택해야 합니다.
• 관리 및 오케스트레이션: 잠재적으로 수천 개의 분산된 엣지 디바이스를 관리하려면 배포, 모니터링, 업데이트를 위한 강력한 도구가 필요하며, 여기에는 엣지에 적합한 Kubernetes(K3, MicroK8)와 같은 플랫폼이나 Ultralytics HUB와 같은 전문 MLOps 플랫폼이 포함되는 경우가 많습니다.
• 보안: 엣지 처리는 데이터 프라이버시를 강화할 수 있지만, 엣지 디바이스 자체는 보안 부팅, 암호화된 통신 및 액세스 제어를 통해 신중한 관리가 필요한 새로운 보안 취약점을 제공할 수 있습니다. 보안 모범 사례에 대해 자세히 알아보세요.