用語集

データ・セキュリティ

データの完全性、信頼性、コンプライアンスを確保し、堅牢なデータセキュリティの実践がAIおよびMLシステムをどのように保護するかをご覧ください。

データ・セキュリティとは、デジタル情報をライフサイクル全体を通じて不正アクセス、破損、盗難から保護することである。人工知能（AI）と機械学習（ML）の文脈では、データ・セキュリティは、モデルのトレーニングと検証に使用されるデータセット、モデル自体、およびそれらが実行されるインフラストラクチャを保護することを含む。堅牢なデータ・セキュリティ対策を実施することは、信頼できるAIシステムを構築し、機密情報を保護し、AI主導の成果の完全性を確保するために極めて重要である。これがなければ、モデルはその性能を損ない、現実の世界で深刻な結果をもたらす脅威に対して脆弱になります。

AIにおけるデータ・セキュリティの重要性

データはAIモデルの生命線である。したがって、AI開発のライフサイクル全体にわたってデータを保護することは譲れません。強力なデータ・セキュリティは、さまざまな脅威から保護し、運用の完全性を保証します。

機密情報の保護：AIシステムは多くの場合、個人を特定できる情報（PII）、財務記録、健康データなど、膨大な量の機密データを処理する。情報漏えいは、GDPRのような規制のもと、多額の金銭的損失、風評被害、法的処罰につながる可能性があります。
悪意ある攻撃の防止： 悪意のある行為者は、入力データを操作してモデルに誤った予測をさせることができる。悪意のある行為者は、入力データを操作してモデルに誤った予測をさせることができます。また、学習データを汚染してパフォーマンスを低下させたり、バックドアを作成したりして、「モデルポイズニング」を試みる可能性もあります。
モデルの完全性の確保AIモデルの信頼性は、トレーニングデータの品質と完全性に完全に依存します。データ・セキュリティは、トレーニングに使用されるデータが正確で、改ざんされていないことを保証し、より堅牢で信頼性の高いモデルを実現します。
コンプライアンスと信頼の維持 NIST Cybersecurity Frameworkのような確立されたセキュリティフレームワークやISO/IEC 27001のような標準を遵守することは、規制遵守のために不可欠である。これらのプラクティスは、包括的な機械学習オペレーション（MLOps）を通じて管理されることが多く、ユーザーの信頼を構築・維持することができます。

コア・データ・セキュリティの実践

AIにおける効果的なデータ・セキュリティには、いくつかの技術的・組織的対策を含む多層的なアプローチが含まれる。

暗号化：データは、静止時（保存時）と転送時（ネットワーク越えの移動時）の両方で暗号化されるべきである。暗号化はデータをセキュアなコードに変換し、権限のないユーザーによる読み取りを防止する。
アクセス制御：役割ベースのアクセス制御（RBAC）のような厳密なアクセス制御ポリシーを実装することで、許可された担当者のみが機密データやモデルコンポーネントにアクセスできるようにします。
データの匿名化：データマスキングやトークン化のような技術は、トレーニングに使用される前にデータセットから機密情報を除去または難読化するために使用されます。
安全なインフラ：データの保存、処理、モデルの展開には、安全なインフラを活用することが重要です。これには、安全なクラウドサービスや、開発ワークフローにセキュリティを組み込んだUltralytics HUBのようなプラットフォームの利用が含まれます。
定期的な監査と監視：システムの継続的な監視と定期的なセキュリティ監査は、脆弱性が悪用される前に検出し、緩和するのに役立つ。

AIとMLの実世界での応用

データ・セキュリティは、AIを駆使した数多くのアプリケーションにおいて不可欠である：

ヘルスケア ヘルスケアにおけるAI、特に病気を診断するための医用画像解析では、患者の重要な健康情報を保護するため、HIPAAによって厳格なデータセキュリティ対策が義務付けられている。これには、患者記録の暗号化、画像データへのアクセス制御、研究に使用するデータの匿名化などが含まれる。
自律走行車： 自律走行車は、ナビゲーションや物体検出のために膨大な量のセンサーデータを生成する。このデータを保護することは、Waymoのような企業が強調しているように、悪意のあるアクターによる車両操作の妨害を防ぐために非常に重要です。データ・セキュリティは、自動車システムにおけるAIの安全性と信頼性を保証します。