ニューラル・アーキテクチャー・サーチ(NAS)が、物体検出やAIなどのパフォーマンスを最適化するニューラルネットワーク設計をどのように自動化するかをご覧ください。
ニューラル・アーキテクチャ・サーチ(NAS)は、機械学習(ML)分野の自動化技術であり、ニューラルネットワーク(NN)の最適な構造(アーキテクチャ)の設計に焦点を当てている。人間の専門家が試行錯誤を繰り返しながら手作業でネットワークレイアウトを設計する代わりに、NASはアルゴリズムを採用して可能なアーキテクチャの広大な空間を探索し、与えられたタスクとデータセットに対して最も効果的なものを特定する。この自動化によって開発プロセスが加速され、人間の設計者には直感的にわからないような斬新で高性能なアーキテクチャを発見し、精度、スピード(推論レイテンシ)、計算効率などのメトリクスを最適化することができる。
NASの基本プロセスには、3つの主要コンポーネントが含まれる:探索空間、探索戦略、性能推定戦略。探索空間は、設計可能なネットワーク・アーキテクチャの集合を定義するもので、基本的には構成要素(異なるタイプの畳み込み 関数や活性化関数など)とそれらの接続方法の概要を示す。探索戦略は、ランダム探索や強化学習から 進化的アルゴリズムに至るまで、様々な手法を用いてこの空間の探索をガイドする。最後に、性能推定戦略では、候補となるアーキテクチャがどの程度の性能を発揮するかを評価する。多くの場合、データセット上でネットワークを部分的または全体的に学習させ、その性能を測定することになるが、 Google AIの研究で詳述されているように、これを高速化するために重み共有や性能予測などの手法が使用される。
NASによるアーキテクチャ設計の自動化には大きな利点がある:
その顕著な例が、Deci AI NAS技術を使って開発したYOLOである。このモデルは、NASを通じて発見された量子化に適したブロックを組み込むことで、以前のUltralytics YOLO バージョンの制限を特にターゲットにした。その結果、精度とレイテンシのバランスに優れたモデルが生まれ、効率的な展開のためにINT8のような形式にモデルを量子化した後でも、車載ソリューションやスマート交通管理におけるAIなどのリアルタイム・アプリケーションに非常に効果的です。量子化技術の詳細については、NVIDIA TensorRT ドキュメントを参照してください。
ヘルスケア分野では、医療画像を解析するためのカスタム畳み込みニューラルネットワーク(CNN)の設計にNASが利用されている。例えば、NASは、MRIスキャンにおける腫瘍の検出やCT画像における臓器のセグメンテーションなどのタスクに対してアーキテクチャを最適化することができ、臨床医を支援するための、より高速で正確な診断ツールにつながる可能性があります。米国国立衛生研究所(NIH)などの機関が強調しているように、医療画像解析におけるAIの応用は急速に成長している分野です。このような専門的なモデルやデータセットの管理は、Ultralytics HUBのようなプラットフォームを使って効率化することができます。
NASは、より広範な分野である自動機械学習(AutoML)の中の特定のコンポーネントである。NASが最適なニューラルネットワーク・アーキテクチャを見つけることだけに焦点を当てているのに対し、AutoMLはデータ前処理、特徴エンジニアリング、モデル選択、ハイパーパラメータ・チューニングなどのステップを含むMLパイプライン全体の自動化を目指しています。NASとハイパーパラメータチューニングを区別することは極めて重要です。ハイパーパラメータチューニングは、与えられた固定モデルアーキテクチャのコンフィギュレーション設定(学習率や バッチサイズなど)を最適化するのに対し、NASはアーキテクチャそのものを探索します。最適なモデル性能を達成するために、この2つの技法はしばしば併用される。ハイパーパラメーター最適化には、Optunaや Ray Tuneのようなツールがよく使われている。