Les nouvelles réglementations sur l'IA en Californie : Un accent sur l'IA éthique

Des voitures auto-conduites aux soins de santé, les innovations en matière d'intelligence artificielle (IA) et les entreprises technologiques de nouvelle génération commencent à jouer un rôle clé dans la refonte de notre vie quotidienne. Par conséquent, la taille du marché mondial de l'IA était de 196,63 milliards de dollars en 2023 et devrait croître en moyenne de 36 % par an de 2024 à 2030. Ces chiffres mettent en évidence la rapidité avec laquelle l'IA se développe. 

D'une part, le développement rapide de l'IA crée des solutions à divers problèmes dans différentes industries. D'autre part, cette rapidité met en lumière la nécessité d'un développement responsable de l'IA pour s'assurer que les améliorations sont éthiques et bénéfiques pour la société.

Par exemple, en 2016, Microsoft a lancé un chatbot, Tay, sur X (anciennement Twitter). Il était conçu pour apprendre des conversations avec les utilisateurs. Cependant, peu de temps après son lancement, Tay a commencé à générer des réponses avec un langage non professionnel, car il a capté toute une série d'interactions. Bien que Microsoft ait rapidement mis le bot hors ligne, c'est un bon exemple de l'importance de s'assurer que les données utilisées pour l'entraînement à l'IA sont fiables et que le public est conscient de la façon dont les entreprises utilisent ces données pour les produits d'IA.

‍

Pour répondre à cette préoccupation, le gouverneur de Californie, Gavin Newsom, a signé plus d'une douzaine de projets de loi liés à l'IA en septembre dernier. Ces lois traitent de tout, de la divulgation des détails sur les données d'entraînement au traitement des deepfakes. Dans cet article, nous allons explorer les lois californiennes sur l'IA et ce qu'elles impliquent. C'est parti !

Législation californienne sur l'IA 2024 : Assurer la responsabilité

Trois projets de loi majeurs ont été signés pour soutenir le développement de l'IA qui devient plus sûr et plus fiable. Le projet de loi de l'Assemblée (AB) 2013, qui entrera en vigueur en 2026, exige que les fournisseurs d'IA générative publient des détails concernant leurs ensembles de données d'entraînement. Ces détails comprennent les sources des ensembles de données, des précisions sur la façon dont les données sont utilisées, le nombre de points de données dans l'ensemble, l'inclusion ou non de données protégées par le droit d'auteur ou sous licence, la période pendant laquelle les données ont été collectées, etc. Le partage de ces informations aidera les entreprises d'IA à gagner la confiance du public.

Un autre projet de loi important qui a été signé est l'AB 1008. Il étend les lois californiennes existantes sur la protection de la vie privée aux solutions d'IA générative. L'AB 1008 a été introduite pour répondre aux préoccupations et améliorer la confiance du public dans la façon dont les systèmes d'IA traitent les informations personnelles. Une enquête a révélé que plus de 81 % des consommateurs craignent que les entreprises d'IA n'utilisent leurs informations d'une manière qu'elles n'avaient pas prévue. En fixant des limites claires sur la façon dont les entreprises peuvent utiliser et tirer profit des informations personnelles, comme les noms, les adresses et les données biométriques, cette loi aide les entreprises d'IA à rassurer les utilisateurs sur le fait que leurs données seront traitées de façon responsable, même si elles sont exposées par un système d'IA.

‍

De même, le projet de loi sénatorial (SB) 896, ou loi sur la responsabilité de l'IA générative, exige que le Bureau des services d'urgence de Californie (CalOES) effectue des analyses de risques sur les menaces potentielles posées par les systèmes d'IA générative. Le CalOES travaillera avec des entreprises pionnières en matière d'IA, telles que OpenAI et Anthropicpour discuter et analyser les menaces potentielles de l'IA sur les infrastructures essentielles de l'État.

Adoption et réglementation de l'IA dans les établissements d'enseignement

Nous avons précédemment exploré comment l 'IA dans l'éducation peut personnaliser les expériences d'apprentissage, redéfinir les pratiques d'enseignement, offrir un retour d'information en temps réel et soutenir les éducateurs avec des outils et des connaissances avancés. En fait, les innovations de l'IA peuvent créer un environnement d'étude plus efficace et plus engageant pour les élèves. Les éducateurs et les enseignants du monde entier utilisent l'IA plus régulièrement, avec des projets pilotes réussis et des mises en œuvre plus larges en cours. Des études montrent que plus de 50 % des enseignants estiment que l 'IA dans les salles de classe a eu un impact positif sur le processus d'enseignement et d'apprentissage. 

‍

La Californie a présenté deux lois concernant l'utilisation de l'IA dans les établissements d'enseignement. L 'AB 2876 oblige le Conseil de l'éducation de l'État de Californie à prendre en compte l'apprentissage de l'IA (après le 1er janvier 2025) dans ses cadres de programmes de mathématiques, de sciences et d'histoire, ainsi que dans son matériel pédagogique. L'objectif de cette loi est de s'assurer que les écoles californiennes enseignent aux élèves les bases du fonctionnement de l'intelligence artificielle, ainsi que les limites, les impacts et les considérations éthiques de l'utilisation de cette technologie. 

En plus de cela, le SB 1288 exige que les surintendants californiens créent des groupes de travail (au plus tard le 1er janvier 2026) pour explorer la façon dont l'IA est utilisée dans les écoles publiques. Ces groupes de travail devront soumettre leurs conclusions et recommandations aux comités politiques et fiscaux compétents de la législature avant le 1er janvier 2027. Après la remise du rapport, le groupe de travail sera dissous et les dispositions seront abrogées le 1er janvier 2031.

Réglementations entourant l'IA générative dans le domaine de la santé

L'IA générative améliore l'industrie de la santé en permettant des innovations pour la découverte de nouveaux médicaments, le diagnostic de maladies, la planification de traitements et les chatbots médicaux. Ces applications peuvent offrir des avantages tels que le suivi en temps réel, les conseils et l'assistance pour améliorer les résultats des patients. D'autres technologies d'IA, comme la réalité augmentée (RA), peuvent également être utilisées pour planifier et simuler des procédures chirurgicales. 

‍

L'intégration de l'IA générative dans les soins de santé s'accompagne de certaines mises en garde liées à la confidentialité des données, et aux réglementations. Il est crucial de donner la priorité à l'exactitude, à la fiabilité et à l'équité des résultats générés par l'IA tout en préservant la confidentialité des informations de santé. 

Pour relever ces défis, la Californie a adopté deux lois sur l'utilisation de l'IA générative dans les soins de santé. AB 3030 demande aux prestataires de soins de santé de divulguer lorsqu'ils utilisent l'IA générative pour communiquer avec un patient, plus précisément lorsque ces messages contiennent les informations cliniques d'un patient. SB 1120 pose des limites à la manière dont les prestataires de services de santé et les assureurs santé peuvent automatiser leurs services. Ces nouvelles lois garantissent également que des médecins agréés supervisent l'utilisation des outils d'IA dans ces contextes.

Les cadres réglementaires californiens en matière d'IA pour les Deepfakes

L'État de Californie a également adopté des lois relatives à la limitation de l'utilisation de l'IA pour la diffusion d'informations trompeuses ou inexactes. Le SB 942 exige que les systèmes d'IA générative populaires indiquent clairement dans leurs données sources que le contenu a été créé par l'IA. De nombreuses entreprises d'IA le font déjà, et plusieurs outils gratuits (ZeroGPT, Winston AI, GLTR, etc.) peuvent aider les gens à lire ces données sources et à détecter les contenus générés par l'IA.

Trois nouvelles lois(AB 1831, SB 926, SB 981) ont été adoptées en Californie pour répondre aux problèmes liés aux deepfakes. Ces lois élargissent les protections existantes, criminalisent l'utilisation abusive de contenu généré par l'IA et exigent des plateformes de médias sociaux qu'elles créent des canaux de signalement des contenus deepfake. Ces lois devraient être mises en œuvre d'ici janvier 2025.

Les lois californiennes sur la définition de l'IA et son utilisation dans les films

L'un des projets de loi qui a été adopté s'est attaché à donner une définition correcte de l'IA. L'AB 2885 stipule que l'IA est définie comme "un système technique ou basé sur une machine dont le niveau d'autonomie varie et qui peut, pour des objectifs explicites ou implicites, déduire des données qu'il reçoit comment générer des sorties qui peuvent influencer des environnements physiques ou virtuels."

Deux lois intéressantes ont également été mises en place pour l'industrie du divertissement. Le plus grand syndicat américain d'acteurs de cinéma et de télévision (SAG-AFTRA) a joué un rôle crucial dans l'adoption de ces lois. L'AB 2602 exige que les studios de cinéma obtiennent la permission d'un acteur avant d'utiliser l'IA pour créer une réplique de sa voix et de son image. Parallèlement, l'AB 1836 interdit aux studios de créer des répliques numériques d'interprètes décédés (comme le personnage de Peter Cushing dans Star Wars : Rogue One) sans le consentement de leur succession.

‍

Le facteur déterminant des lois californiennes sur l'IA

Alors que nous avons entraperçu chacune de ces lois, tu t'es peut-être demandé pourquoi elles sont vraiment nécessaires. Les réglementations sur l'IA sont un sujet de discussion populaire depuis un certain temps déjà, mais elles ont pris une ampleur significative avec la montée en puissance du deepfake content, qui a impacté divers domaines, notamment les médias et la politique. L'utilisation de contenus générés par l'IA en ligne a suscité des inquiétudes concernant la désinformation et son impact potentiel sur les résultats des élections, par exemple. Il y a également des appréhensions croissantes concernant la vie privée et l'utilisation abusive des données personnelles par les innovations de l'IA. Ces questions ont été un facteur expliquant pourquoi plusieurs nouvelles lois ont été mises en place pour y remédier.

Par exemple, AB 2905, impose aux robocalls de divulguer s'il s'agit de voix générées par l'IA. En outre, l'AB 2655 demande aux grandes plateformes en ligne comme Facebook et X de supprimer ou d'étiqueter les deepfakes liés aux élections et de créer des canaux de signalement pour ce type de contenu. Les candidats et les élus peuvent également demander une injonction si les plateformes ne se conforment pas à la loi. 

Une autre loi, AB 2839, cible les utilisateurs de médias sociaux qui publient ou repostent des deepfakes susceptibles d'induire les électeurs en erreur. De même, AB 2355 stipule des divulgations claires pour les publicités politiques réalisées à l'aide d'outils d'IA.

Principaux enseignements des nouvelles lois californiennes sur l'IA

Les nouvelles lois californiennes sur l'IA reflètent un engagement croissant pour équilibrer l'innovation et la responsabilité. En répondant à des préoccupations essentielles dans des domaines tels que la transparence des données, la vie privée, les deepfakes et l'utilisation de l'IA dans les soins de santé et l'éducation, ces lois visent à protéger les individus et la société tout en promouvant un développement responsable de l'IA. Alors que l'IA continue d'évoluer, ces réglementations permettront de s'assurer que sa croissance s'accompagne de pratiques éthiques et de la confiance du public. Ces lois peuvent également encourager d'autres régions du monde à faire de même.

Pour en savoir plus, visite notre dépôt GitHub et engage-toi auprès de notre communauté. Explore les applications de l'IA dans la fabrication et l'agriculture sur nos pages de solutions. 🚀