리소스가 제한된 환경에서 높은 정확도와 효율성을 보장하는 양자화 인식 학습(QAT)을 통해 엣지 디바이스에 맞게 AI 모델을 최적화하세요.
양자화 인식 훈련(QAT)은 머신러닝의 중요한 최적화 기법으로, 정확도가 높은 AI 모델과 리소스가 제한된 디바이스에서의 효율적인 배포 사이의 간극을 메우는 역할을 합니다. AI 애플리케이션이 스마트폰, IoT 센서, 임베디드 시스템과 같은 에지 디바이스로 확장됨에 따라 정확성과 계산 효율을 모두 갖춘 모델의 필요성이 무엇보다 중요해졌습니다. QAT는 모델 훈련 단계에서 양자화의 효과를 시뮬레이션하여 저정밀 하드웨어에 강력하고 최적화된 모델을 도출함으로써 이 문제를 해결합니다.
양자화 인식 훈련은 배포 환경에 내재된 수치 정밀도 저하를 견딜 수 있도록 신경망을 개선합니다. 모델이 완전히 학습된 후에 적용하는 학습 후 양자화와 달리, QAT는 학습 루프 자체에 양자화를 통합합니다. 이는 포워드 및 백워드 패스 중에 가중치와 활성화의 수치 정밀도를 낮추는 양자화 프로세스를 시뮬레이션함으로써 달성됩니다. 이렇게 함으로써 모델은 정밀도 손실을 보정하는 방법을 학습하여 실제로 배포를 위해 양자화할 때 더 높은 정확도를 유지하는 모델을 만들 수 있습니다. 이 방법에는 int8과 같은 저정밀 연산을 모방하는 '가짜 양자화' 연산을 사용하면서도 그라데이션 계산과 가중치 업데이트를 정밀하게 수행하는 것이 포함됩니다. 이 접근 방식을 사용하면 모델이 양자화 효과에 적응하고 덜 민감해져 양자화된 추론의 성능이 향상됩니다.
최적화 기법에 대한 보다 폭넓은 이해를 원하시면 모델 최적화 가이드를 참조하여 모델 효율성을 높이는 방법에 대한 간략한 개요를 확인하세요.
QAT와 모델 양자화는 모두 모델 정밀도를 낮추는 것을 목표로 하지만 그 접근 방식과 결과는 크게 다릅니다. 모델 양자화는 일반적으로 학습된 고정밀 모델을 더 낮은 정밀도 형식(예: INT8)으로 변환하여 모델 크기를 줄이고 추론을 가속화하는 학습 후 프로세스입니다. 이 방법은 간단하지만 특히 복잡한 모델의 경우 정확도가 상당히 떨어질 수 있습니다. 반면, QAT는 학습 중에 모델을 사전에 양자화할 수 있도록 준비하므로 정확도 손실을 완화하고 저정밀 환경에서 우수한 성능을 달성하는 경우가 많습니다.
혼합 정밀도 훈련은 훈련 프로세스를 가속화하고 훈련 중 메모리 사용량을 줄이는 데 초점을 맞춘 또 다른 최적화 기법입니다. 여기에는 네트워크 내에서 16비트와 32비트 부동소수점 숫자를 모두 사용하는 것이 포함됩니다. 혼합 정밀도는 주로 훈련 효율성을 목표로 하는 반면, QAT는 정밀도가 낮은 배포 시나리오에서 추론 효율성과 정확도에 초점을 맞춰 양자화 후 모델의 성능을 향상시키기 위해 특별히 설계되었습니다.
정량화 인식 훈련은 리소스 효율성이 중요한 실제 애플리케이션에 AI 모델을 배포하는 데 필수적입니다. 다음은 몇 가지 예시입니다:
스마트폰이나 IoT 디바이스와 같은 스마트 디바이스에서는 컴퓨팅 리소스와 성능이 제한되어 있습니다. QAT는 엣지 AI 애플리케이션을 위한 모델을 최적화하는 데 널리 사용되어 디바이스에서 직접 실시간 처리를 가능하게 합니다. 예를 들어, 최첨단 객체 감지 모델인 Ultralytics YOLO 은 스마트 홈 보안 시스템이나 AI 기반 카메라와 같은 애플리케이션에서 효율적인 실시간 객체 감지를 보장하기 위해 QAT를 사용하여 최적화할 수 있습니다. QAT는 모델 크기와 계산 요구 사항을 줄임으로써 처리 능력이 제한된 디바이스에서도 복잡한 AI 작업을 실행할 수 있게 해줍니다.
자율 주행 차량과 로봇 공학에는 엄격한 지연 시간과 전력 제약 조건에서 빠른 의사 결정을 내릴 수 있는 AI 시스템이 필요합니다. QAT는 이러한 애플리케이션 내 임베디드 시스템에 배포하기 위한 모델을 최적화하는 데 중요한 역할을 합니다. 예를 들어, QAT를 다음 모델에 적용하면 Ultralytics YOLOv8 모델에 적용하면 자율 주행의 실시간 의사 결정에 중요한 차량 감지 및 보행자 추적 시스템의 효율성을 크게 향상시킬 수 있습니다. 이러한 최적화를 통해 AI는 차량 하드웨어의 성능과 연산 한계 내에서 효과적으로 작동할 수 있습니다.
Ultralytics 솔루션이 다양한 산업에 어떻게 적용되는지 알아보려면 Ultralytics 솔루션을 방문하세요.
