カリフォルニア州の新しいAI規制：倫理的AIを中心に

自動運転車から ヘルスケアまで、人工知能（AI）イノベーションと次世代技術企業は、私たちの日常生活を再構築する上で重要な役割を果たし始めている。その結果、2023年のAIの世界市場規模は1966億3000万ドルで、2024年から2030年まで年平均36％の成長が見込まれている。この数字は、AIがいかに急速に成長しているかを示している。 

一方では、AIの急速な発展が、さまざまな業界におけるさまざまな問題に対する解決策を生み出している。その一方で、このスピードは、改善が倫理的で社会にとって有益であることを確認するための、責任あるAI 開発の必要性を浮き彫りにしている。

例えば、2016年、Microsoft 、X（旧ツイッター）でチャットボット「テイ（Tay）」を発表した。ユーザーとの会話から学習するように設計されていた。しかし、リリース直後から、Tayは様々なやり取りを拾い上げ、専門的でない言葉で応答を生成し始めた。Microsoft 、このボットは速やかにオフラインになったが、AIのトレーニングに使用されるデータが信頼できるものであることを確認し、企業がAI製品にそのようなデータをどのように使用しているかを一般に認識させることの重要性を示す良い例である。

‍

この懸念に対処するため、カリフォルニア州知事のギャビン・ニューサムは今年9月、十数本のAI関連法案に署名した。これらの法律は、トレーニングデータの詳細の開示からディープフェイクの取り扱いまで、あらゆることに対応している。この記事では、カリフォルニア州のAI関連法とその内容について紹介する。始めよう！

カリフォルニアAI法案2024説明責任の確保

AI開発がより安全で信頼できるものになることを支援するための3つの主要法案が署名された。2026年に施行されるアセンブリー・ビル（AB）2013では、ジェネレーティブAIプロバイダーに対し、トレーニングデータセットに関する詳細の公表を義務付けている。これらの詳細には、データセットのソース、データの使用方法の詳細、セット内のデータポイントの数、著作権保護されたデータまたはライセンスされたデータが含まれているかどうか、データが収集された期間などが含まれる。このような情報を共有することは、AI企業が社会的信用を築くことにつながる。

署名されたもう一つの重要な法案はAB1008である。これはカリフォルニア州の既存の個人情報保護法をジェネレーティブAIソリューションに拡張するものだ。AB1008は、AIシステムによる個人情報の取り扱いに関する懸念に対処し、社会的信頼を向上させるために導入された。ある調査によると、消費者の81％以上が、AI企業が意図しない方法で自分の情報を使用することを懸念しているという。氏名、住所、生体情報などの個人情報を企業がどのように使用し、利益を得ることができるかについて明確な制限を設けることで、この法律は、たとえAIシステムによって公開されたとしても、自分のデータが責任を持って取り扱われることをAI企業がユーザーに安心させるのに役立つ。

‍

同様に、上院法案（SB）896（Generative AI Accountability Act）は、カリフォルニア州緊急サービス局（CalOES）に対し、ジェネレーティブAIシステムがもたらす潜在的脅威に関するリスク分析を実施するよう求めている。CalOESは、OpenAIや Anthropicなどの先駆的なAI企業と協力し、州の重要なインフラに対するAIの潜在的脅威について議論・分析する。

教育機関におけるAIの導入と規制

私たちは以前、教育におけるAIがどのように学習体験をパーソナライズし、教育実践を再定義し、リアルタイムのフィードバックを提供し、高度なツールと洞察力で教育者をサポートできるかを探った。実際、AIのイノベーションは、生徒にとってより効果的で魅力的な学習環境を 作り出すことができる。世界中の教育者や教師がAIを定期的に利用するようになっており、試験的なプロジェクトが成功し、より広範な導入が進められている。研究によると、教師の50％以上が、教室でのAIが教育や学習プロセスにプラスの影響を与えていると感じている。 

‍

カリフォルニア州は、教育機関におけるAIの利用に関して2つの法律を導入した。AB2876は、カリフォルニア州教育委員会に対し、数学、科学、歴史のカリキュラムフレームワークと教材において、AIリテラシー（2025年1月1日以降）を考慮することを義務付けている。この法律の目的は、カリフォルニア州の学校において、人工知能の仕組みの基本や、人工知能を利用することの限界、影響、倫理的配慮について、生徒に教育を受けさせることである。 

これに加え、SB1288では、カリフォルニア州の教育長に対し、公立学校におけるAIの活用方法を検討するためのワーキンググループの設置を義務付けている（2026年1月1日までに）。これらのワーキンググループは、2027年1月1日までに立法府の関連政策・財政委員会に調査結果と提言を提出する必要がある。報告書提出後、作業部会は解散し、2031年1月1日にこの規定は廃止される。

医療におけるジェネレーティブAIを取り巻く規制

ジェネレーティブAIは、新薬の発見、病気の診断、治療計画、医療用チャットボットなどのイノベーションを可能にすることで、ヘルスケア業界を改善している。これらのアプリケーションは、患者の転帰を改善するためのリアルタイムのモニタリング、アドバイス、サポートなどの利点を提供することができる。拡張現実（AR）のような他のAI技術は、外科手術の計画やシミュレーションにも使用できる。 

‍

ジェネレーティブAIを医療に取り入れるには、データプライバシーや規制に関する注意点がある。AIによって生成される結果の正確性、信頼性、公平性を優先しつつ、医療情報のプライバシーを守ることは極めて重要である。 

こうした課題に対処するため、カリフォルニア州では医療におけるジェネレーティブAIの使用に関する2つの法律が成立した。AB3030は、医療提供者が患者とのコミュニケーションにジェネレーティブAIを使用する場合、特にそのメッセージに患者の臨床情報が含まれる場合に開示するよう求めている。SB 1120は、医療サービス提供者と医療保険者がサービスを自動化する方法に制限を加える。これらの新法はまた、免許を持つ医師がこれらの環境におけるAIツールの使用を監督することを保証する。

ディープフェイクに対するカリフォルニア州のAI規制枠組み

カリフォルニア州も、誤解を招いたり不正確な情報を広めたりするAIの利用を抑制するための関連法を可決した。SB942は、一般的な生成AIシステムに対し、そのコンテンツがAIによって作成されたものであることをソースデータに明示するよう求めている。多くのAI企業はすでにこれを実施しており、世に出ているいくつかの無料ツール（ZeroGPT、Winston AI、GLTRなど）は、人々がこのソースデータを読み、AIが生成したコンテンツを検出するのに役立つ。

カリフォルニア州で、ディープフェイクに関連する問題に対処するための3つの新しい法律（AB 1831、SB 926、SB 981）が成立した。これらの法律は、既存の保護を拡大し、AIが生成したコンテンツの悪用を犯罪とし、ソーシャルメディア・プラットフォームにディープフェイク・コンテンツの報告ルートを設けることを義務付けるものである。この法律は2025年1月までに施行される予定である。

AIの定義と映画での使用に関するカリフォルニア州のAI法

成立した法案のひとつは、AIに適切な定義を与えることに焦点を当てたものだ。AB2885は、AIを「自律性のレベルに差があり、明示的または暗黙的な目的のために、物理的または仮想的な環境に影響を与えることができる出力を生成する方法を、受け取った入力から推測することができる工学的または機械ベースのシステム」と定義している。

また、エンターテインメント業界にとって興味深い法律が2つ施行された。アメリカ最大の映画・放送俳優組合（SAG-AFTRA）は、これらの法律の発効を後押しする上で重要な役割を果たした。AB2602は、映画スタジオがAIを使って俳優の声や肖像のレプリカを作成する前に、俳優から許可を得ることを義務づけている。一方、AB1836では、スタジオが故人のデジタル・レプリカ（『スター・ウォーズ／ローグ・ワン』に登場するピーター・クッシングのキャラクターのようなもの）を遺族の同意なしに作成することを禁止している。

‍

カリフォルニア州AI法の原動力

それぞれの法律について洞察していくと、なぜ本当に必要なのか疑問に思われたかもしれない。AI規制は以前から話題になっていたが、メディアや政治など様々な分野に影響を与えたディープフェイクコンテンツの台頭により、その勢いは著しくなっている。ネット上でAIが生成したコンテンツが利用されることで、例えば誤報や選挙結果への潜在的な影響に対する懸念が高まっている。また、プライバシーやAIイノベーションによる個人データの悪用に対する懸念も高まっている。こうした問題に対処するために、現在いくつかの新しい法律が制定されているのも、こうした問題が要因となっている。

例えば、AB2905では、ロボコールがAIによって生成された音声であるかどうかを開示するよう強制している。さらに、AB2655は、フェイスブックやXのような大規模なオンライン・プラットフォームに対し、選挙に関連するディープフェイクを削除またはラベル付けし、そのようなコンテンツの報告手段を設けるよう求めている。プラットフォームがこれに従わない場合、候補者や選挙関係者は差し止めによる救済を求めることもできる。 

別の法律AB2839は、有権者を欺く可能性のあるディープフェイクを投稿・転載するソーシャルメディア・ユーザーを対象としている。同様に、AB2355はAIツールを使った政治広告の明確な開示を規定している。

カリフォルニア州新AI法の要点

カリフォルニア州の新しいAI法は、イノベーションとアカウンタビリティのバランスを取るというコミットメントの高まりを反映している。データの透明性、プライバシー、ディープフェイク、ヘルスケアや教育におけるAIの利用といった分野における重要な懸念に対処することで、これらの法律は、責任あるAIの開発を促進しながら、個人と社会を保護することを目指している。AIが進化し続ける中、これらの規制は、その成長が倫理的慣行と社会的信頼を伴うことを保証するのに役立つだろう。また、これらの法律は、世界の他の地域が追随することを促すかもしれない。

詳しくはGitHubリポジトリをご覧ください。製造業や 農業におけるAIアプリケーションについては、ソリューションページをご覧ください。🚀