グリーンチェック
クリップボードにコピーされたリンク

Ultralytics YOLO11 NVIDIA Jetson Orin Nano Super: 高速で効率的。

NVIDIA Jetson Orin Nano Super上のUltralytics YOLO11 、高度なAIアプリケーション向けに印象的なベンチマークとGPU-acceleratedパフォーマンスを実現する方法をご覧ください。

2024年12月17日に発売されたNVIDIA Jetson Orin Nano Super Developer Kitは、エッジコンピューティングに高度な機能をもたらすよう設計された、コンパクトながら強力なジェネレーティブAIスーパーコンピュータである。リアルタイム処理を容易にし、クラウド・コンピューティングを不要にする。NVIDIA Jetson Orin Nano Superにより、開発者はローカル環境で効率的に動作する手頃なインテリジェント・システムを構築できる。

のようなUltralytics YOLO モデルと組み合わせると、Jetson Orin Nano Superはエッジで膨大な種類のビジョンAIアプリケーションを処理することができます。 Ultralytics YOLO11と組み合わせることで、Jetson Orin Nano Superは、エッジでの膨大なビジョンAIアプリケーションを処理することができます。特に、YOLO11 は、物体検出、物体追跡、インスタンス分割などのタスクにおいて、その速度と精度で知られるコンピュータ・ビジョン・モデルです。 

YOLO11の能力をキットの堅牢なGPU (Graphics Processing Unit)と組み合わせ、PyTorch 、ONNX 、NVIDIA TensorRT のようなフレームワークのサポートにより、高性能なデプロイメントが可能になります。この組み合わせは、ロボット工学における物体検出から、スマートスペースや小売システムにおけるリアルタイムの物体追跡まで、AIアプリケーションを作成するための効率的なソリューションを開発者に提供します。

この記事では、NVIDIA Jetson Orin Nano Super Developer Kitについて、エッジAIのためのUltralytics YOLO11 、その性能ベンチマーク、実際のアプリケーション、そして開発者がVision AIプロジェクトを構築するのに役立つ方法について見ていく。さっそく始めよう!

NVIDIA Jetson Orin Nano Super Developer Kitとは何ですか?

NVIDIA Jetson Orin Nano Super Developer Kitは、小型エッジデバイス向けのジェネレーティブAIを再定義する、コンパクトながらパワフルなコンピュータです。最大67TOPS(1秒間に数兆回の演算)のAIパフォーマンスを実現し、高度なAIプロジェクトに取り組む開発者、学生、ホビイストに最適です。

図1.NVIDIA Jetson Orin Nano Superの概要。

その主な特徴をいくつか紹介しよう:

  • GPU パフォーマンスを発揮します:このデバイスは、NVIDIA AmpereアーキテクチャーGPU 、1,024CUDA コアと32Tensor コアを搭載している。CUDA コアは多数のタスクを同時に処理し、複雑な計算を高速化する一方、Tensor コアはディープラーニングのようなAIタスクに特化している。 
  • パワフルCPU: 6コアのArm Cortex-A78AEプロセッサーを搭載し、スピードと効率のバランスをとるように設計されています。エネルギー使用量を抑えながら、複数のタスクをスムーズに処理できる。これは、大規模な電源にアクセスすることなくローカルで動作するシステムにとって重要です。
  • 効率的なメモリ:このキットには、8GBのLPDDR5(Low Power Double Data Rate 5)メモリが搭載されています。LPDDR5は、スピードとエネルギー効率に最適化されたRAM(ランダム・アクセス・メモリー)の一種で、デバイスが過剰な電力を消費することなく、大きなデータセットやリアルタイム処理を処理できるようにします。
  • 接続オプション:高速データ転送用のUSB 3.2ポート、強力なネットワーク接続用のギガビット・イーサネット・ポート、センサーやカメラを統合するためのカメラ・インターフェースを備えています。 
  • AI開発ツール:Jetson Orin Nano Superは、NVIDIA JetPack SDKと連動しており、CUDA のようなツールを提供し、より高速なコンピューティングとAIモデルの最適化を実現します。 TensorRTAIモデルの最適化のためのツールを提供します。これらのツールにより、開発者はAIアプリケーションを迅速かつ効率的に構築し、展開することが容易になります。

性能ベンチマーク:Jetson Orin Nano Super 対 Orin NX 16GB

NVIDIAの作品に詳しい方なら、この新しいリリースが既存のNVIDIA Jetson Orin NX 16GB(スーパーモードなし)とどのように比較されるのか気になるかもしれません。Jetson Orin NXは全体的に高い性能を提供しますが、Jetson Orin Nanoスーパー・デベロッパー・キットは、わずかなコストで素晴らしい性能を提供します。 

図2. NVIDIA Jetson Orinのエコシステム。

簡単に概要を説明しよう:

  • AIパフォーマンス:Jetson Orin Nano Superは、ほとんどのエッジAIタスクに最適な最大67 TOPSを提供し、Jetson Orin NXは、より要求の厳しいアプリケーション向けに最大100 TOPSを提供する。
  • メモリJetson Orin Nano Superには、リアルタイム・タスクに十分な8GB LPDDR5が搭載されている。
  • 電力効率:Jetson Orin Nano Superは、Jetson Orin NXの高い電力需要に比べ、よりエネルギー効率が高く、7Wから25Wの間で構成可能です。
  • GPU:どちらもNVIDIA Ampereアーキテクチャを共有し、1,024CUDA コアと32Tensor コアを備え、堅牢なGPU パフォーマンスを実現。

YOLO11 Jetson Orin Nano Superとともに:ビジョンAIをエッジへ

Jetson Orin Nano Superの理解が深まったところで、YOLO11 、Vision AI機能をエッジにもたらすためにどのようなステップを踏むことができるかを見てみよう。Ultralytics YOLO11 を含むYOLO モデルには、訓練、予測、エクスポートなどの多用途モードが搭載されており、さまざまなAIワークフローに適応できるようになっている。 

例えば、トレーニングモードでは、Ultralytics YOLO モデルを微調整し、固有の物体の検出や特定の環境に対する最適化など、特定の用途向けにカスタムデータセットでトレーニングすることができます。同様に、 予測モードは推論用に設計されており、リアルタイムのコンピュータビジョンタスクを可能にします。最後に、エクスポートモードを使用して、モデルを展開用に最適化された形式に変換することができます。

図3 Ultralytics YOLO さまざまな機能とモードをサポートするモデル。

YOLO11 エクスポートモードでは、さまざまなモデル展開オプションをサポートしています:

  • NVIDIATensorRT:このフォーマットはNVIDIA GPU用に最適化されており、Jetson Orin Nano Super上で高性能かつ低レイテンシーの推論を提供します。
  • ONNX (Open Neural Network Exchange)である:様々なプラットフォームでの互換性を確保し、異なるハードウェアやソフトウェアのエコシステムにも対応できる。
  • TorchScript:このフォーマットは、PyTorch ベースのアプリケーションに最適で、PyTorch ワークフローへのシームレスな統合を支援します。
  • TFLite (TensorFlow Lite):軽量なAIデプロイメント用に設計されたフォーマットで、モバイルや組み込みシステムに最適。

これらの展開形式を使用することで、開発者はJetson Orin Nano Superのハードウェアをフルに活用し、スマート・スペース、ロボット工学、小売自動化などのリアルタイム・アプリケーション向けにYOLO11 。 

NVIDIA Jetson Orin Nano SuperでYOLO11 をベンチマークする。

次に、YOLO11 がNVIDIA Jetson Orin Nano Super 上でどの程度高速に実行できるかを知るために、GPU-accelerated export format(PyTorch 、ONNX 、TensorRT など)を使用した印象的なパフォーマンスとベンチマークを調べてみましょう。これらのテストから、Jetson Orin Nano SuperはYOLO11 モデルで、既存のJetson Orin NX 16GB(スーパーモードなし)に匹敵し、時にはそれを上回る推論時間を達成していることがわかります。

図4. NVIDIA Jetson Orin Nano SuperでのベンチマークYOLO11 。

さらに注目すべきは、Jetson Orin Nano Superの手頃な価格です。Jetson Orin NX 16GBの半分以下の価格でこのような性能を提供することで、高性能YOLO11 アプリケーションを構築する開発者にとって非常に価値のある製品となっています。このコストと性能の組み合わせにより、Jetson Orin Nano SuperはエッジでのリアルタイムVision AIタスクに最適な選択肢となります。

図5.Jetson Orin NX 16GBでのベンチマークYOLO11 。

Get hands-on withYOLO11 andNVIDIA Jetson Orin Nano Super

Jetson Orin Nano SuperにYOLO11 、デプロイを始めることに興奮しているなら、朗報があります。NVIDIA JetPack SDKでデバイスをフラッシュした後、ビルド済みのDockerイメージを使って素早くセットアップするか、必要なパッケージを手動でインストールすることができます。 

より速く、よりシームレスな統合をお望みの方には、アップデートされたJetPack 6 Dockerコンテナが理想的なソリューションです。Dockerコンテナは、特定のソフトウェアを実行するために必要なすべてのツールと依存関係を含む、軽量でポータブルな環境です。 

JetPack 6.1用に最適化されたUltralytics コンテナには、CUDA 12.6、TensorRT 10.3、およびJetsonのARM64アーキテクチャ用に調整されたPyTorch やTorchVisionなどの必須ツールがプリロードされています。このコンテナを使用することで、開発者はセットアップの時間を節約し、YOLO11 を使用してVision AIアプリケーションの構築と最適化に集中することができます。

NVIDIA Jetson Orin Nano SuperでのYOLO11 。

次のAIプロジェクトのヒントを探している人にとって、エッジベースのコンピューター・ビジョン・アプリケーションの可能性は、私たちの身近なところにある。 

日常生活において、エッジAIは、クラウド処理に依存することなく、リアルタイムで物体を検出・追跡するシステムを可能にすることで、スマートスペースを再定義している。賑やかな都市での交通の監視であれ、公共スペースでの異常な活動の特定であれ、エッジ・ビジョンAIはセキュリティと効率を高めている。

小売業者もまた、エッジAIとコンピュータ・ビジョンを活用している。自動在庫チェックから盗難防止まで、YOLO11 のようなモデルは、企業が店舗に直接リアルタイム・ソリューションを導入することを可能にしている。 

同様に、ヘルスケアにおけるAIに関して言えば、エッジベースのモニタリングは、患者の安全性を確保し、異常を検出し、コンプライアンスを維持します。Jetson Orin Nano SuperやYOLO11 のようなツールにより、ビジョンAIの未来は、最も必要とされるエッジで展開されます。

要点

Ultralytics YOLO YOLO11 のようなモデルをNVIDIA Jetson Orin Nano Super Developer Kit に展開することで、エッジ AI アプリケーションに信頼性が高く効率的なソリューションを提供します。堅牢なGPU パフォーマンス、PyTorch 、ONNX 、TensorRT のシームレスなサポート、および印象的なベンチマークにより、物体検出や追跡などのリアルタイムコンピュータビジョンタスクに適しています。 

Vision AIやハードウェア・アクセラレーションなどの最先端技術における革新とコラボレーションは、私たちの働き方を変革し、開発者がエッジでスケーラブルで高性能なソリューションを構築できるようにします。AIの進歩に伴い、YOLO11 や Jetson Orin Nano Super のようなツールによって、インテリジェントなリアルタイム・ソリューションの実現がかつてないほど容易になっています。

AIに興味がありますか?GitHub リポジトリで、私たちの貢献やコミュニティへの参加をご覧ください。AIを使って農業やヘルスケアなどの業界にどのようなインパクトを与えているかをご覧ください。

Facebookのロゴツイッターのロゴリンクトインのロゴコピー・リンク・シンボル

このカテゴリの続きを読む

AIの未来
を一緒に作りましょう!

機械学習の未来への旅を始めよう