ONNX (개방형 신경망 교환)

인공지능과 머신러닝 영역에서 상호운용성은 최고의 도구를 활용하고 다양한 환경에 걸쳐 모델을 배포하는 데 있어 핵심적인 요소입니다. ONNX 오픈 신경망 교환(Open Neural Network Exchange)은 머신러닝 모델을 표현하기 위해 만들어진 개방형 포맷으로, AI 개발자가 단일 프레임워크에 종속되지 않고 여러 도구 간에 모델을 이동하는 프로세스를 간소화할 수 있도록 지원합니다. 훈련에 사용되는 프레임워크에 관계없이 모델을 통합적으로 표현할 수 있어 다양한 추론 엔진, 하드웨어 플랫폼 및 환경에 모델을 더 간편하게 배포할 수 있습니다.

관련성 ONNX

ONNX 의 주요 관련성은 AI 에코시스템에서 이식성과 상호 운용성을 촉진하는 기능에 있습니다. ONNX 은 머신 러닝 모델에 대한 공통 연산자 집합과 표준 형식을 정의함으로써 다음과 같은 프레임워크에서 학습된 모델을 손쉽게 PyTorch 또는 TensorFlow 와 같은 다양한 추론 엔진을 사용하여 쉽게 전송하고 실행할 수 있습니다. TensorRT 또는 OpenVINO. Ultralytics 이는 Ultralytics YOLO 모델을 사용하는 개발자에게 특히 유용합니다. ONNX 내보내기는 클라우드 서버에서 에지 장치에 이르기까지 다양한 플랫폼에 걸쳐 모델 배포를 간소화합니다. YOLOv8 모델을 ONNX 형식으로 내보낼 수 있으므로 사용자는 최적화된 추론 엔진을 활용하여 성능을 개선하고 실시간 추론을 더욱 빠르게 수행할 수 있습니다.

애플리케이션 ONNX

ONNX의 프레임워크 간 호환성은 수많은 AI 애플리케이션에서 유용하게 사용됩니다. 두 가지 구체적인 예가 있습니다:

• 엣지 배포: 엣지 디바이스에 AI 모델을 배포하려면 종종 최적화된 성능과 특정 하드웨어와의 호환성이 필요합니다. ONNX 개발자는 PyTorch 같은 높은 수준의 프레임워크를 사용하여 모델을 학습한 다음 ONNX 로 내보내 다음과 같은 추론 엔진을 사용하여 엣지 디바이스에서 효율적으로 실행할 수 있습니다. TensorRTNVIDIA Jetson 또는 OpenVINOIntel 장치에서. 이를 통해 스마트 카메라나 로보틱스와 같은 애플리케이션이 Ultralytics YOLO 모델을 사용하여 실시간으로 효과적으로 물체 감지 작업을 수행할 수 있습니다.
• 크로스 플랫폼 추론: AI 솔루션이 다양한 운영체제와 하드웨어에서 작동해야 하는 시나리오에서 ONNX 은 일관된 모델 형식을 제공합니다. 예를 들어, 의료 이미지 분석 애플리케이션은 강력한 서버에서 학습되지만 병원이나 클리닉의 저전력 컴퓨터에서 추론을 수행해야 할 수 있습니다. ONNX 을 사용하면 다양한 환경에서 동일한 모델을 원활하게 전환하고 실행할 수 있으므로 배포 플랫폼에 관계없이 일관되고 안정적인 성능을 보장할 수 있습니다.

관련 개념

ONNX 을 이해하려면 모델 배포 및 최적화에 중요한 역할을 하는 관련 개념을 인식하는 것도 포함됩니다:

• 추론 엔진: 특정 하드웨어에서 머신 러닝 모델을 최적화하고 실행하는 소프트웨어 라이브러리입니다. ONNX 모델은 종종 다음과 같은 추론 엔진과 함께 사용됩니다. TensorRT 및 OpenVINO 과 같은 추론 엔진과 함께 사용되어 추론 속도와 효율성을 가속화합니다.
• 모델 내보내기: 학습된 모델을 원래 프레임워크의 형식에서 변환하는 프로세스(예, PyTorch .pt 파일)을 ONNX 형식으로 변환할 수 있는 간단한 도구를 Ultralytics 에서 제공합니다. YOLO 모델 내보내기 ONNX 및 기타 형식으로 전송합니다.
• 프레임워크 상호운용성: ONNX 은 다양한 프레임워크에서 모델을 사용할 수 있도록 함으로써 프레임워크 종속 문제를 해결합니다. 각 프레임워크마다 강점이 있지만, ONNX 은 개발자가 호환성 장벽 없이 AI 라이프사이클의 각 단계에 가장 적합한 도구를 선택할 수 있도록 지원합니다.

ONNX 을 도입하면 개발자는 AI 워크플로를 크게 간소화하고 배포 복잡성을 줄이며 다양한 애플리케이션과 플랫폼에서 다목적 모델과 고성능을 보장할 수 있습니다.