機械学習オペレーション（MLOps）

MLOpsの基本原則

MLOpsは、MLシステム特有の複雑さを管理するために設計された、いくつかの重要な原則に基づいて構築されている：

• 自動化： 継続的インテグレーション/継続的デプロイメント(CI/CD)パイプラインを使用して、データ準備、モデルトレーニング、検証、デプロイメントのような反復タスクを自動化する。
• コラボレーションMLのライフサイクルを通じて、データサイエンス、ソフトウェアエンジニアリング、オペレーションチーム間のコミュニケーションとコラボレーションを促進する。
• バージョン管理：再現性とトレーサビリティを確保するために、データ、コード、モデルのバージョン管理を行うこと。DVCのようなツールは、Gitと一緒に使われることが多い。
• モデルのモニタリング：モデルのパフォーマンス、データ品質、運用の健全性を継続的に追跡し、データ・ドリフトやパフォーマンス低下などの問題を検出します。
• ガバナンスとコンプライアンス：モデルが規制要件、倫理ガイドライン（AI倫理）、データプライバシーとセキュリティに関する組織のポリシーを満たしていることを確認する。

MLOpsのライフサイクル

MLOpsのライフサイクルは、MLモデルの全行程を網羅する：

1. データ管理：データセットの取り込み、検証、クリーニング（データクリーニング）、バージョン管理（データラベリングと準備ガイドはUltralytics Docsにあります）。
2. モデル開発：さまざまなアルゴリズム、フィーチャーエンジニアリング、アーキテクチャの実験。 PyTorchまたは TensorFlow.
3. モデルのトレーニング： 分散トレーニングを使用する可能性があり、以下のようなツールで実験を管理します。 Weights & BiasesやMLflowのようなツールで実験を管理する。ハイパーパラメータのチューニングは自動化されていることが多い。
4. モデルの検証： 検証データに対する 精度や mAPのような測定基準を用いてモデルの性能を評価する。
5. モデルのデプロイメント：パッケージング（ Dockerによるコンテナ化）と、Kubernetesのようなオーケストレーションプラットフォームを使用する可能性のある、本番環境へのモデルのデプロイ。
6. モデルのモニタリングと再トレーニング：ライブパフォーマンスを追跡し、ドリフトや減衰を検出し、必要に応じて再トレーニングパイプラインを起動します。ここでは観測可能性が重要な役割を果たします。

MLOpsと関連概念

• MLOpsとAutoMLの比較：MLOpsがエンドツーエンドのライフサイクル管理全体をカバーするのに対し、自動機械学習（AutoML）は特にモデル構築ステップ（データ準備、フィーチャーエンジニアリング、モデル選択、ハイパーパラメータチューニング）の自動化に重点を置いている。AutoMLツールはMLOpsワークフロー内のコンポーネントとなり得ます。
• MLOps対観測可能性： ObservabilityはMLOps戦略において重要な能力である。これは、デプロイされたMLシステムの内部状態と動作を理解するために必要なツールとプラクティス（ロギング、メトリクス、トレース）を提供し、効果的なモニタリングとトラブルシューティングを可能にする。

実世界での応用

MLOpsのプラクティスは、複雑なMLシステムをプロダクションで管理するために不可欠である：

1. レコメンデーションシステム：NetflixやSpotifyのような企業は、MLOpsを使用して、新しいユーザーインタラクションデータに基づいてレコメンデーションモデルを継続的に再トレーニングし、異なるモデルのバージョンをA/Bテストし、エンゲージメントメトリクスを監視し、パフォーマンスの低いモデルを迅速にロールバックする。これにより、レコメンデーションは常に適切でパーソナライズされたものになる。
2. 不正検知：金融機関はMLOpsパイプラインを導入し、不正検知モデルを管理する。これには、トランザクションデータのドリフト監視、新しい不正パターンによるモデルの自動再トレーニング、リアルタイム検知のための低推論レイテンシーの確保、規制遵守のための監査証跡の管理が含まれます。 Ultralytics YOLOモデルは、不正検出につながる可能性のある目視検査システムで使用される場合も、デプロイとモニタリングのためのMLOpsの恩恵を受ける。

ツールとプラットフォーム

さまざまなツールが、MLOpsのライフサイクルのさまざまな段階をサポートしている：

• 実験のトラッキングとバージョン管理： MLflow、 Weights & BiasesDVC、 ClearML.
• ワークフロー・オーケストレーション： Kubeflowパイプライン、Apache Airflow。
• モデルサービング： KFServing、BentoML、NVIDIA Triton 推論サーバー。
• モニタリング： Grafana、Prometheus、WhyLabs。
• エンド・ツー・エンドのプラットフォーム： Amazon SageMaker、Google Cloud AI Platform、Microsoft Azure Machine Learning、Ultralytics HUB。

MLOpsの原則を導入することで、組織はAIシステムをより効果的に構築、デプロイ、管理することができ、実験的研究と信頼性の高いプロダクション・アプリケーションのギャップを埋めることができる。