Khám phá cách triển khai Ultralytics YOLO11 TRÊN NVIDIA Jetson Orin Nano Super mang lại điểm chuẩn ấn tượng và GPU - tăng tốc hiệu suất cho các ứng dụng AI tiên tiến.
NVIDIA Jetson Orin Nano Super Developer Kit, ra mắt vào ngày 17 tháng 12 năm 2024, là một siêu máy tính AI tạo sinh nhỏ gọn nhưng mạnh mẽ được thiết kế để mang lại khả năng tiên tiến cho điện toán biên . Nó tạo điều kiện cho xử lý thời gian thực và loại bỏ nhu cầu về điện toán đám mây. NVIDIA Jetson Orin Nano Super cho phép các nhà phát triển xây dựng các hệ thống thông minh giá cả phải chăng, hoạt động hiệu quả trong môi trường cục bộ.
Khi được ghép nối với các mô hình Ultralytics YOLO như Ultralytics YOLO11 , Jetson Orin Nano Super có thể xử lý nhiều ứng dụng Vision AI ở biên. Đặc biệt, YOLO11 là một mô hình thị giác máy tính được biết đến với tốc độ và độ chính xác trong các tác vụ như phát hiện đối tượng , theo dõi đối tượng và phân đoạn trường hợp.
Kết hợp YOLO11 khả năng của với GPU (Bộ xử lý đồ họa) mạnh mẽ của bộ công cụ và hỗ trợ cho các khuôn khổ như PyTorch , ONNX , Và NVIDIA TensorRT cho phép triển khai hiệu suất cao. Sự kết hợp này cung cấp cho các nhà phát triển giải pháp hiệu quả để tạo ứng dụng AI, từ phát hiện đối tượng trong robot đến theo dõi đối tượng theo thời gian thực trong không gian thông minh và hệ thống bán lẻ.
Trong bài viết này, chúng ta sẽ xem xét NVIDIA Jetson Orin Nano Super Developer Kit, cách thức hoạt động với Ultralytics YOLO11 đối với AI biên , các chuẩn hiệu suất, ứng dụng thực tế và cách nó có thể giúp các nhà phát triển xây dựng các dự án Vision AI. Hãy bắt đầu nào!
Các NVIDIA Jetson Orin Nano Super Developer Kit là một máy tính nhỏ gọn nhưng mạnh mẽ, định nghĩa lại AI tạo sinh cho các thiết bị biên nhỏ. Nó cung cấp hiệu suất AI lên đến 67 TOPS (nghìn tỷ phép tính mỗi giây), lý tưởng cho các nhà phát triển, sinh viên và những người đam mê làm việc trên các dự án AI tiên tiến.
Sau đây là một số tính năng chính của nó:
Nếu bạn quen thuộc với NVIDIA công việc của, bạn có thể tự hỏi bản phát hành mới này so sánh như thế nào với bản hiện tại NVIDIA Jetson Orin NX 16GB (không có chế độ siêu). Trong khi Jetson Orin NX cung cấp khả năng tổng thể cao hơn, Jetson Orin Nano Super Developer Kit cung cấp hiệu suất ấn tượng với chi phí chỉ bằng một phần nhỏ.
Sau đây là bản tóm tắt nhanh:
Bây giờ chúng ta đã hiểu rõ hơn về Jetson Orin Nano Super, hãy cùng xem xét cách YOLO11 có thể tham gia để đưa khả năng của Vision AI lên tầm cao mới. Ultralytics YOLO các mô hình, bao gồm YOLO11 , đi kèm với các chế độ linh hoạt như đào tạo, dự đoán và xuất, giúp chúng có thể thích ứng với nhiều quy trình làm việc AI khác nhau.
Ví dụ, trong chế độ đào tạo, Ultralytics YOLO các mô hình có thể được tinh chỉnh và đào tạo trên các tập dữ liệu tùy chỉnh cho các ứng dụng cụ thể, chẳng hạn như phát hiện các đối tượng duy nhất hoặc tối ưu hóa cho các môi trường cụ thể. Tương tự như vậy, chế độ dự đoán được thiết kế để suy luận, cho phép thực hiện các tác vụ thị giác máy tính theo thời gian thực. Cuối cùng, chế độ xuất có thể được sử dụng để chuyển đổi các mô hình sang các định dạng được tối ưu hóa để triển khai.
YOLO11 ở chế độ xuất hỗ trợ một loạt các tùy chọn triển khai mô hình, bao gồm:
Sử dụng các định dạng triển khai này, các nhà phát triển có thể tận dụng tối đa phần cứng của Jetson Orin Nano Super để chạy YOLO11 cho các ứng dụng thời gian thực như không gian thông minh, robot và tự động hóa bán lẻ.
Tiếp theo, để có ý tưởng tốt hơn về tốc độ YOLO11 có thể chạy trên NVIDIA Jetson Orin Nano Super, hãy cùng khám phá hiệu suất ấn tượng và điểm chuẩn của nó bằng cách sử dụng GPU -các định dạng xuất khẩu được tăng tốc như PyTorch , ONNX , Và TensorRT . Các thử nghiệm này cho thấy Jetson Orin Nano Super đạt được thời gian suy luận với YOLO11 các mẫu máy có thể so sánh được - và đôi khi vượt trội hơn - Jetson Orin NX 16GB hiện tại (không có chế độ siêu cấp).
Điều làm cho điều này thậm chí còn đáng chú ý hơn là giá cả phải chăng của Jetson Orin Nano Super. Cung cấp hiệu suất như vậy với mức giá chưa đến một nửa giá của Jetson Orin NX 16GB, nó mang lại giá trị đặc biệt cho các nhà phát triển xây dựng hiệu suất cao YOLO11 ứng dụng. Sự kết hợp giữa chi phí và hiệu suất khiến Jetson Orin Nano Super trở thành lựa chọn tuyệt vời cho các tác vụ Vision AI thời gian thực ở biên.
Nếu bạn hào hứng bắt đầu triển khai YOLO11 trên Jetson Orin Nano Super, có tin tốt - đó là một quá trình đơn giản. Sau khi flash thiết bị của bạn bằng NVIDIA Với JetPack SDK, bạn có thể sử dụng hình ảnh Docker dựng sẵn để thiết lập nhanh hoặc cài đặt thủ công các gói cần thiết.
Đối với những ai đang tìm kiếm sự tích hợp nhanh hơn và liền mạch hơn, container Docker JetPack 6 được cập nhật là giải pháp lý tưởng. Container Docker là một môi trường nhẹ, di động bao gồm tất cả các công cụ và phụ thuộc cần thiết để chạy phần mềm cụ thể.
Các Ultralytics container, được tối ưu hóa cho JetPack 6.1, được tải sẵn CUDA 12.6, TensorRT 10.3 và các công cụ thiết yếu như PyTorch và TorchVision, tất cả đều được thiết kế riêng cho kiến trúc ARM64 của Jetson. Bằng cách sử dụng container này, các nhà phát triển có thể tiết kiệm thời gian thiết lập và tập trung vào việc xây dựng và tối ưu hóa các ứng dụng Vision AI của họ với YOLO11 .
Đối với những ai đang tìm kiếm cảm hứng cho dự án AI tiếp theo của mình, các ứng dụng thị giác máy tính dựa trên biên có tiềm năng phát triển ở khắp mọi nơi xung quanh chúng ta.
Trong cuộc sống hàng ngày, AI biên đang định nghĩa lại không gian thông minh bằng cách cho phép các hệ thống phát hiện và theo dõi các đối tượng theo thời gian thực, tất cả mà không cần dựa vào xử lý đám mây. Cho dù đó là giám sát giao thông trong một thành phố đông đúc hay xác định hoạt động bất thường ở không gian công cộng, AI biên đang tăng cường bảo mật và hiệu quả.
Các nhà bán lẻ cũng đang khai thác AI biên và tầm nhìn máy tính. Từ kiểm tra hàng tồn kho tự động đến phòng chống trộm cắp , các mô hình như YOLO11 giúp doanh nghiệp có thể triển khai các giải pháp thời gian thực trực tiếp tại các cửa hàng.
Tương tự như vậy, khi nói đến AI trong chăm sóc sức khỏe , giám sát dựa trên biên đảm bảo an toàn cho bệnh nhân, phát hiện các bất thường và duy trì sự tuân thủ - tất cả đều không có sự chậm trễ do phụ thuộc vào đám mây. Với các công cụ như Jetson Orin Nano Super và YOLO11 , tương lai của Vision AI đang diễn ra ngay tại ranh giới, nơi cần nó nhất.
Triển khai Ultralytics YOLO các mô hình như YOLO11 trên NVIDIA Jetson Orin Nano Super Developer Kit cung cấp giải pháp đáng tin cậy và hiệu quả cho các ứng dụng AI biên. Với GPU hiệu suất, hỗ trợ liền mạch cho PyTorch , ONNX , Và TensorRT và các điểm chuẩn ấn tượng, nó rất phù hợp cho các tác vụ thị giác máy tính thời gian thực như phát hiện và theo dõi đối tượng.
Những cải tiến và hợp tác trong các công nghệ tiên tiến như Vision AI và tăng tốc phần cứng đang chuyển đổi cách chúng ta làm việc, trao quyền cho các nhà phát triển xây dựng các giải pháp có khả năng mở rộng, hiệu suất cao tại biên. Khi AI tiến bộ, các công cụ như YOLO11 và Jetson Orin Nano Super giúp việc hiện thực hóa các giải pháp thông minh, thời gian thực trở nên dễ dàng hơn bao giờ hết.
Bạn có tò mò về AI không? Hãy truy cập kho lưu trữ GitHub của chúng tôi để khám phá những đóng góp của chúng tôi và tương tác với cộng đồng của chúng tôi . Xem cách chúng tôi sử dụng AI để tạo ra tác động trong các ngành như nông nghiệp và chăm sóc sức khỏe.
Bắt đầu hành trình của bạn với tương lai của machine learning