DeGirum으로 정량화된 YOLOv8 모델을 배포하는 방법을 알아보세요. 엣지 디바이스에 대한 과제, 솔루션 및 배포 기술을 알아보세요. 저희와 함께 미래를 만들어보세요!
마드리드에 위치한 활기찬 Google 스타트업 캠퍼스에서 열린 YOLO VISION 2023 (YV23) 이벤트의 또 다른 통찰력 있는 강연을 요약해 드립니다. 이 강연은 DeGirum의 수석 아키텍트이자 공동 창립자인 Shashi Chilappagar가 진행했습니다. 이 강연에서는 양자화 및 양자화 모델 배포의 매력적인 세계를 탐구하고 주요 과제, 솔루션 및 미래의 가능성을 탐색했습니다.
Shashi는 정량화에 대한 포괄적인 개요를 제공하면서 엣지 디바이스 배포를 위한 모델 최적화 Ultralytics YOLO 모델 최적화의 중요성을 강조했습니다. 참석자들은 기본 사항에 대한 논의부터 정량화 개선을 위한 접근 방식 탐색에 이르기까지 모델 포팅 및 배포의 복잡성에 대한 귀중한 인사이트를 얻었습니다.
정량화는 특히 TFLite의 YOLO 모델에서 종종 어려움을 겪습니다. 모든 출력을 동일한 스케일/영점으로 양자화할 때 관찰되는 정확도의 현저한 하락에 대해 알아보고, 양자화 과정에서 모델 정확도를 유지하는 데 따르는 복잡성을 조명해 보았습니다.
다행히도 이러한 문제를 해결할 수 있는 솔루션이 존재합니다. DigiRAM 포크의 도입은 출력을 분리하고 바운딩 박스 디코딩을 최적화하여 양자화 친화적인 접근 방식을 제공합니다. 이러한 개선 사항을 통해 양자화된 모델 정확도는 기준 수준에서 크게 향상되었습니다.
양자화 손실을 최소화하려면 새로운 모델 아키텍처를 탐색하는 것이 핵심입니다. 참석자들은 CILU를 경계형 Relu6 활성화로 대체하면 양자화 손실을 최소화하여 양자화된 모델의 정확도를 유지하는 데 유망한 결과를 제공하는 방법을 발견했습니다.
5줄의 코드만 있으면 Digitim 클라우드 플랫폼에서 모든 모델을 실행할 수 있으므로 수량화된 모델을 배포하는 것이 그 어느 때보다 쉬워졌습니다. 라이브 코드 데모에서는 정량화된 모델을 사용한 객체 감지의 단순성을 보여주었습니다. Ultralytics YOLOv5 모델을 사용한 물체 감지의 단순성을 보여주며, 정량화된 모델을 실제 애플리케이션에 원활하게 통합할 수 있음을 강조했습니다.
이를 위해 Ultralytics 에서는 다양한 모델 배포 옵션을 제공하여 최종 사용자가 임베디드 및 엣지 디바이스에 애플리케이션을 효과적으로 배포할 수 있도록 지원합니다. 다양한 내보내기 형식은 다음과 같습니다. OpenVINO, TorchScript, TensorRT, CoreML, TFlite 및 TFlite EDGE TPU 가 있으며, 다양한 기능과 호환성을 제공합니다.
배포를 위한 타사 애플리케이션과의 통합을 통해 사용자는 실제 시나리오에서 모델의 성능을 평가할 수 있습니다.
참석자들은 또한 다양한 하드웨어 플랫폼에 다양한 모델을 배포할 때의 다양성에 대한 인사이트를 얻었으며, 단일 코드베이스가 여러 가속기에서 여러 모델을 지원할 수 있는 방법을 보여주었습니다. 다양한 하드웨어 플랫폼에서 서로 다른 탐지 작업을 실행한 사례는 저희 접근 방식의 유연성과 확장성을 보여주었습니다.
참석자들의 역량을 강화하기 위해 포괄적인 리소스 섹션을 도입하여 클라우드 플랫폼, 예제, 문서 등에 대한 액세스를 제공했습니다. 저희의 목표는 모든 사람이 정량화된 모델을 효과적으로 배포하는 데 필요한 도구와 지원을 받을 수 있도록 하는 것입니다.
정량화 분야가 발전함에 따라 최신 정보를 얻고 참여하는 것이 필수적입니다. 저희는 여러분이 이 흥미로운 여정을 헤쳐나갈 수 있도록 지속적인 지원과 리소스를 제공하기 위해 최선을 다하고 있습니다. 여기에서 전체 강연을 확인하세요!
머신러닝과 인공 지능의 최신 트렌드와 혁신에 대해 계속 탐구하는 저희와 함께하세요. 우리는 함께 기술의 미래를 만들어가고 세상의 긍정적인 변화를 주도하고 있습니다.
