Cookie 设置
点击 "接受所有 Cookie"，即表示您同意在您的设备上存储 Cookie，以增强网站导航、分析网站使用情况并协助我们的营销工作。更多信息
了解加州新的人工智能法律如何平衡创新与责任，涵盖隐私、深度伪造、医疗保健、教育和安全。
从自动驾驶汽车到医疗保健，人工智能（AI）创新和新一代科技公司开始在重塑我们的日常生活中发挥关键作用。因此，2023 年全球人工智能市场规模为 1966.3 亿美元，预计从 2024 年到 2030 年平均每年增长 36%。这些数字展示了人工智能的快速发展。
一方面，人工智能的快速发展为各行各业的各种问题提供了解决方案。另一方面，这种速度也彰显了负责任的人工智能 发展的必要性，以确保人工智能的 改进符合道德规范并造福社会。
例如，2016 年，Microsoft ，在X（推特前身）上推出了聊天机器人Tay。它旨在从与用户的对话中学习。然而，在发布后不久，Tay 就开始用不专业的语言生成回复，因为它捕捉到了一系列互动。虽然Microsoft 迅速将该机器人下线，但这是一个很好的例子，说明了确保用于人工智能训练的数据可靠以及公众了解公司如何将这些数据用于人工智能产品的重要性。
针对这一问题，加利福尼亚州州长加文-纽森（Gavin Newsom）于今年 9 月签署了十多项人工智能相关法案，使之成为法律。这些法律涉及从披露训练数据细节到处理深度伪造等各个方面。在本文中，我们将探讨加州的人工智能法律及其内容。让我们开始吧！
三项重要法案已签署成为法律，以支持人工智能开发变得更加安全可靠。将于 2026 年生效的《2013 年议会法案》（AB）要求生成式人工智能供应商公布其训练数据集的详细信息。这些细节包括数据集的来源、如何使用数据的细节、数据集中的数据点数量、是否包含受版权保护或授权的数据、数据收集的时间段等。共享这些信息将有助于人工智能公司建立公众信任。
签署的另一项重要法案是AB 1008。该法案将加州现有的隐私法扩展至生成式人工智能解决方案。AB 1008 法案的提出是为了解决人们对人工智能系统如何处理个人信息的担忧，并提高公众对人工智能系统的信心。一项调查发现，超过81% 的消费者担心人工智能公司可能会以他们无意的方式使用他们的信息。通过对企业如何使用个人信息（如姓名、地址和生物识别数据）并从中获利做出明确限制，该法律有助于人工智能公司向用户保证，即使他们的数据被人工智能系统暴露，也会得到负责任的处理。
同样，参议院法案（SB）896，即《生成式人工智能责任法案》，要求加州应急服务办公室（CalOES）对生成式人工智能系统带来的潜在威胁进行风险分析。加州应急服务办公室将与OpenAI、ARM 等先驱人工智能公司合作，讨论并分析人工智能系统带来的潜在威胁。 Anthropic等人工智能先驱公司合作，讨论和分析人工智能对加州关键基础设施的潜在威胁。
我们曾探讨过教育领域的人工智能如何实现个性化学习体验、重新定义教学实践、提供实时反馈，以及为教育工作者提供先进的工具和见解。事实上，人工智能创新可以为学生创造更有效、更吸引人的学习环境 。全世界的教育工作者和教师都在更经常地使用人工智能，成功的试点项目和更广泛的实施都在进行之中。研究表明，50% 以上的教师认为课堂中的人工智能对教学过程产生了积极影响。
加利福尼亚州出台了两项有关在教育机构中使用人工智能的法律。AB 2876法案规定，加州教育委员会必须在其数学、科学和历史课程框架和教学材料中考虑人工智能知识（2025年1月1日之后）。这项法律的目的是确保加州的学校向学生传授人工智能工作原理的基础知识，以及使用该技术的局限性、影响和道德考量。
除此之外，第 1288 号法案还要求加州的学监们（在 2026 年 1 月 1 日或之前）成立工作小组，探讨如何在公立学校中使用人工智能。这些工作组需要在 2027 年 1 月 1 日之前向议会的相关政策和财政委员会提交研究结果和建议。报告提交后，工作组将解散，相关条款将于 2031 年 1 月 1 日废止。
生成式人工智能正在改善医疗保健行业，为发现新药、诊断疾病、规划治疗和医疗聊天机器人带来创新。这些应用可提供实时监控、建议和支持等益处，从而改善患者的治疗效果。增强现实（AR）等其他人工智能技术也可用于规划和模拟外科手术。
将生成式人工智能融入医疗保健领域需要注意一些与数据隐私和法规相关的问题。在保障健康信息隐私的同时，优先考虑人工智能生成结果的准确性、可靠性和公平性至关重要。
为了应对这些挑战，加州通过了两项关于在医疗保健领域使用生成式人工智能的法律。AB 3030要求医疗服务提供商在使用生成式人工智能与患者沟通时，特别是在这些信息包含患者临床信息的情况下，必须披露相关信息。SB 1120对医疗服务提供商和医疗保险公司如何实现服务自动化做出了限制。这些新法律还确保执业医师监督人工智能工具在这些环境中的使用。
加利福尼亚州也通过了与遏制利用人工智能传播误导性或不准确信息相关的法律。SB 942要求流行的生成式人工智能系统在源数据中明确指出内容是由人工智能创建的。许多人工智能公司已经这样做了，而且有几款免费工具（ZeroGPT、Winston AI、GLTR 等）可以帮助人们阅读这些源数据并检测人工智能生成的内容。
加州通过了三部新法律（AB 1831、SB 926 和SB 981），以解决深度伪造相关问题。这些法律扩大了现有的保护范围，将滥用人工智能生成的内容定为刑事犯罪，并要求社交媒体平台建立深度伪造内容的报告渠道。这些法律将于 2025 年 1 月实施。
其中一项已通过成为法律的法案重点在于给人工智能下一个恰当的定义。AB 2885 号法案规定，人工智能的定义是 "一种基于工程或机器的系统，它的自主程度各不相同，并且能够为了明确或隐含的目标，从接收到的输入中推断出如何产生能够影响物理或虚拟环境的输出"。
此外，还有两项针对娱乐业的有趣法律出台。美国最大的电影和广播演员工会（SAG-AFTRA）在推动这些法律生效方面发挥了至关重要的作用。AB 2602 法案要求电影制片厂在使用人工智能复制演员的声音和肖像之前，必须获得演员的许可。同时，AB 1836 法案禁止电影公司在未获得已故演员遗产同意的情况下，创建已故演员的数字复制品（类似于《星球大战：侠盗一号》中彼得-库辛（Peter Cushing）的角色）。
当我们深入了解每项法律时，你可能会想，为什么真的需要这些法律呢？一段时间以来，人工智能法规一直是人们热议的话题，但随着深度伪造内容的兴起，它们获得了巨大的发展动力，影响了包括媒体和政治在内的各个领域。例如，使用人工智能生成的在线内容引发了人们对错误信息及其对选举结果的潜在影响的担忧。人们对隐私和人工智能创新滥用个人数据的担忧也与日俱增。这些问题也是为什么现在要制定几部新法律来解决这些问题的原因之一。
例如，AB 2905法案强制要求机器人电话披露它们是否是人工智能生成的声音。此外，AB 2655号法案还要求 Facebook 和 X 等大型网络平台删除或标注与选举有关的深度伪造内容，并为此类内容创建举报渠道。如果平台不遵守规定，候选人和当选官员还可以寻求禁令救济。
另一项法律，AB 2839，针对的是发布或转发可能误导选民的深度伪造内容的社交媒体用户。同样，AB 2355法案规定对使用人工智能工具制作的政治广告进行明确披露。
加利福尼亚州的新人工智能法律反映出加州越来越致力于平衡创新与责任。通过解决数据透明度、隐私、深度伪造以及人工智能在医疗和教育领域的应用等关键问题，这些法律旨在保护个人和社会，同时促进负责任的人工智能发展。随着人工智能的不断发展，这些法规将有助于确保其发展伴随着道德实践和公众信任。这些法律还可能鼓励世界其他地区效仿。
要了解更多信息，请访问我们的GitHub 存储库，并与我们的社区互动。在我们的解决方案页面探索人工智能在制造业和农业领域的应用。🚀
