Kiểm tra màu xanh lá cây
Liên kết được sao chép vào khay nhớ tạm

Compiling & Quantizing Ultralytics YOLOv5 For Better Performance With Deci

Optimize and deploy Ultralytics YOLOv5 models with Deci's platform, enhancing performance by up to 10x. Get started for free and leverage automatic model optimization.

Tại Ultralytics Chúng tôi hợp tác thương mại với các công ty khởi nghiệp khác để giúp chúng tôi tài trợ cho nghiên cứu và phát triển các công cụ nguồn mở tuyệt vời của chúng tôi, như YOLOv5, để giữ chúng miễn phí cho tất cả mọi người. Bài viết này có thể chứa các liên kết liên kết đến các đối tác đó.

Nền tảng Deci bao gồm các công cụ miễn phí để dễ dàng quản lý, tối ưu hóa và triển khai YOLOv5 mô hình trong bất kỳ môi trường sản xuất. Deci hỗ trợ tất cả các framework DL phổ biến, chẳng hạn như TensorFlow, PyTorch, Keras và ONNX. Tất cả những gì bạn cần là nền tảng dựa trên web của chúng tôi hoặc Python máy khách để chạy nó từ mã của bạn.

Tại sao lại là Deci?

Bạn có thể sử dụng Deci để không chỉ xuất khẩu mà còn để cắt tỉa và lượng tử hóa mô hình!

Deci cung cấp một giao diện đẹp để xuất ở bất kỳ định dạng nào và so sánh hiệu suất giữa các mô hình gốc và chuyển đổi. Người dùng chọn tối ưu hóa hơn nữa các mô hình của họ bằng cách lượng tử hóa.

Với Deci, bạn có thể:

Cải thiện hiệu suất suy luận lên đến 10x

Tự động biên dịch và định lượng các mô hình của bạn và đánh giá các cài đặt sản xuất khác nhau để đạt được độ trễ tốt hơn, xuyên suốt và giảm kích thước mô hình và dấu chân bộ nhớ trên phần cứng của bạn.

Tìm phần cứng suy luận tốt nhất cho ứng dụng của bạn

Đánh giá hiệu suất mô hình của bạn trên các thiết bị phần cứng khác nhau (bao gồm cả cạnh) bằng một nút. Loại bỏ nhu cầu thiết lập và kiểm tra thủ công nhiều cài đặt phần cứng và sản xuất.

Triển khai với một vài dòng mã

Tận dụng Deci's python-dựa trên công cụ suy luận. Tương thích với nhiều khung và loại phần cứng.

Để biết thêm thông tin về Nền tảng Deci, vui lòng truy cập trang web của Deci.

Thiết lập lần đầu

Bước 1

Open your free account.

Bắt đầu với Deci và Ultralytics YOLOv5

Bước 2

Để bắt đầu tối ưu hóa đào tạo trước của bạn YOLOv5 mô hình, bạn sẽ cần phải chuyển đổi nó thành ONNX định dạng. Xem YOLOv5 Export Tutorial để được hướng dẫn về cách chuyển đổi mô hình của bạn sang ONNX định dạng.

Bước 3

Chuyển đến tab "Phòng thí nghiệm" và nhấp vào nút "Mô hình mới" ở phần trên cùng bên phải của màn hình để tải lên YOLOv5 ONNX mẫu.

Convert Ultralytics YOLOv5 mô hình để ONNX để triển khai trong tương lai với Deci

Làm theo các bước của trình hướng dẫn tải lên mô hình để chọn phần cứng mục tiêu của bạn cũng như kích thước lô mong muốn và mức lượng tử hóa cho quá trình biên dịch mô hình.

Ultralytics YOLOv5 biên dịch mô hình để triển khai với Deci

Sau khi điền các thông tin liên quan, nhấp vào "Bắt đầu". Nền tảng Deci sẽ tự động thực hiện tối ưu hóa thời gian chạy của bạn YOLOv5 Mô hình cho phần cứng bạn đã chọn cũng như điểm chuẩn mô hình của bạn trên các loại phần cứng khác nhau. Quá trình này mất khoảng 10 phút.

Sau khi hoàn tất, một hàng mới sẽ xuất hiện trên màn hình của bạn bên dưới mô hình đường cơ sở mà bạn đã tải lên trước đó. Tại đây bạn có thể thấy phiên bản được tối ưu hóa của khóa đào tạo trước của mình YOLOv5 mẫu.

Ultralytics YOLOv5 mô hình tối ưu hóa để triển khai với Deci

Tiếp theo là gì?

Sau đó, bạn có thể tải xuống mô hình được tối ưu hóa của mình bằng cách nhấp vào nút "Triển khai".

Ultralytics YOLOv5 mô hình sẵn sàng triển khai với Deci

Sau đó, bạn sẽ được nhắc tải xuống mô hình của mình và nhận hướng dẫn về cách cài đặt và sử dụng công cụ suy luận thời gian chạy của Infery - Deci.

Việc sử dụng Infery là tùy chọn. Bạn có thể nhận được python RAW và sử dụng chúng với bất kỳ công cụ suy luận nào khác mà bạn chọn.

Sử dụng Deci Infery để deploy Ultralytics YOLOv5

Khám phá kết quả tối ưu hóa và điểm chuẩn trên tab "Thông tin chi tiết".

Tối ưu hóa với Deci của Ultralytics YOLOv5 mẫu

Sẵn sàng để bắt đầu?

Trước khi kết thúc, hãy thảo luận về một số lợi thế mà Deci cung cấp:

  • Tối ưu hóa thông lượng suy luận và độ trễ của mô hình mà không ảnh hưởng đến độ chính xác
  • Cho phép bạn tối ưu hóa các mô hình từ tất cả các khung phổ biến
  • Hỗ trợ các mô hình nhắm mục tiêu vào bất kỳ nhiệm vụ học sâu nào
  • Hỗ trợ triển khai trên phổ biến CPU và GPU Máy
  • Điểm chuẩn mức độ phù hợp của mô hình của bạn trên các máy chủ phần cứng và nhà cung cấp đám mây khác nhau
  • Chuẩn bị sẵn sàng cho các mô hình đã tải lên để phân phối, suy luận và triển khai

Như bạn vừa thấy, bạn có thể tăng gấp đôi hiệu suất của một YOLOv5 mô hình trong thời gian tổng thể 15 phút. Nền tảng Deci siêu dễ sử dụng và trực quan.

Bất kỳ câu hỏi? Tham gia cộng đồng của chúng tôi và để lại câu hỏi của bạn ngay hôm nay!

Logo FacebookBiểu trưng TwitterBiểu trưng LinkedInBiểu tượng sao chép liên kết

Đọc thêm trong danh mục này

Hãy xây dựng tương lai
của AI cùng nhau!

Bắt đầu hành trình của bạn với tương lai của machine learning