グリーンチェック
クリップボードにコピーされたリンク

コンパイルとクオンタイズUltralytics YOLOv5 Deciによるパフォーマンス向上

Deci のプラットフォームでUltralytics YOLOv5 モデルを最適化して展開し、パフォーマンスを最大 10 倍向上させます。無料で始めて、モデルの自動最適化を活用しましょう。

Ultralytics YOLOv5 のような素晴らしいオープンソースツールの研究開発資金を提供するために、私たちは他の新興企業と商業的に提携しています。この記事には、それらのパートナーへのアフィリエイトリンクが含まれている場合があります。

Deliプラットフォームには、あなたのモデルを簡単に管理、最適化、およびデプロイするための無料のツールが含まれています。 YOLOv5モデルの管理、最適化、デプロイを簡単に行うための無料ツールが含まれています。Deliは、TensorFlow 、PyTorch 、Keras、ONNX などの一般的なDLフレームワークをすべてサポートしています。必要なのは、私たちのウェブベースのプラットフォームか、あなたのコードから実行するためのPython クライアントだけです。

なぜデキなのか?

Deciはエクスポートだけでなく、モデルの枝刈りや量子化にも使用できます!

Deliは、あらゆるフォーマットでのエクスポートや、オリジナルモデルと変換後のモデルの性能比較のための素晴らしいインターフェイスを提供します。ユーザーは量子化によってモデルをさらに最適化することもできます。

デキならできる:

推論パフォーマンスを最大10倍向上

モデルを自動的にコンパイルしてクオンタイズし、さまざまなプロダクション設定を評価することで、より優れたレイテンシー、全体的なレイテンシー、ハードウェア上のモデルサイズとメモリフットプリントの削減を実現します。

アプリケーションに最適な推論ハードウェアを探す

様々なハードウェア(エッジを含む)デバイス上で、ボタン一つでモデルのパフォーマンスをベンチマークします。複数のハードウェアと生産設定を手動で設定し、テストする必要性を排除します。

数行のコードでデプロイする

Deciのpython-ベースの推論エンジンを活用。複数のフレームワークとハードウェアタイプに対応。

デキ・プラットフォームの詳細については、デキのウェブサイトをご覧ください。

初回セットアップ

ステップ1

無料アカウントを開設してください。

デシとその関係Ultralytics YOLOv5

ステップ2

事前に訓練されたYOLOv5 モデルの最適化を開始するには、ONNX フォーマットに変換する必要があります。モデルをONNX 形式に変換する方法については、YOLOv5 Export Tutorialを参照してください。

ステップ3

Lab "タブに移動し、画面右上の "New Model "ボタンをクリックしてモデルをアップロードする。 YOLOv5ONNX モデルをアップロードします。

Ultralytics YOLOv5  のモデルをONNX に変換し、Deli で将来展開できるようにする。

モデル・アップロード・ウィザードの手順に従って、ターゲット・ハードウェアを選択し、モデル・コンパイルに必要なバッチ・サイズと量子化レベルを選択します。

Ultralytics YOLOv5 デキで展開するためのモデルコンパイル

関連情報を入力後、"Start "をクリックしてください。Deliプラットフォームは、選択したハードウェアに対して、YOLOv5 モデルのランタイム最適化を自動的に実行し、様々なハードウェアタイプでモデルのベンチマークを行います。このプロセスには約10分かかります。

そうすると、以前にアップロードしたベースラインモデルの下に新しい行が表示されます。ここでは、事前に訓練されたYOLOv5 モデルの最適化バージョンを見ることができます。

Ultralytics YOLOv5 デキの展開に最適化されたモデル

次はどうする?

その後、"Deploy "ボタンをクリックして、最適化されたモデルをダウンロードすることができます。

Ultralytics YOLOv5 デキで展開可能なモデル

その後、モデルをダウンロードするよう促され、Deliのランタイム推論エンジンであるInferyのインストール方法と使用方法についての説明が表示されます。

Inferyの使用は任意である。python rawファイルを入手し、他の推論エンジンで使用することができます。

デキ・インフェリーを使用して配備するUltralytics YOLOv5

インサイト」タブで最適化とベンチマークの結果をご覧ください。

Ultralytics YOLOv5  モデルのデキによる最適化

準備はいいですか?

最後に、デキが提供する利点について説明しよう:

  • 精度を犠牲にすることなく、モデルの推論スループットとレイテンシーを最適化します。
  • すべての一般的なフレームワークのモデルを最適化できる。
  • あらゆるディープラーニングタスクを対象としたモデルをサポート
  • 一般的なCPU およびGPU マシンへのデプロイをサポートします。
  • 異なるハードウェアホストやクラウドプロバイダー上でモデルの適合性をベンチマークします。
  • アップロードされたモデルを、サービング、推論、デプロイメントの準備ができるようにする。

今ご覧いただいたように、YOLOv5 、15分間でパフォーマンスを2倍にすることができます。Deliプラットフォームは、超簡単で直感的に使える。

ご質問は?今すぐコミュニティに参加して質問をお寄せください!

Facebookのロゴツイッターのロゴリンクトインのロゴコピー・リンク・シンボル

このカテゴリの続きを読む

AIの未来
を一緒に作りましょう!

機械学習の未来への旅を始めよう