캘리포니아의 새로운 AI 법률이 개인정보 보호, 딥페이크, 의료, 교육, 보안을 포괄하는 혁신과 책임의 균형을 어떻게 맞추는지 알아보세요.
자율주행차부터 헬스케어에 이르기까지 인공지능(AI) 혁신과 차세대 기술 기업이 우리의 일상을 재편하는 데 핵심적인 역할을 하기 시작했습니다. 그 결과 2023년 AI의 세계 시장 규모는 1,966억 3,000만 달러였으며, 2024년부터 2030년까지 연평균 36% 성장할 것으로 예상됩니다. 이 수치는 AI가 얼마나 빠르게 성장하고 있는지 보여줍니다.
한편으로는 AI의 급속한 발전으로 여러 산업 분야에서 다양한 문제에 대한 해결책이 만들어지고 있습니다. 다른 한편으로는 이러한 발전 속도가 윤리적이고 사회에 유익한 방향으로 나아갈 수 있도록 책임감 있는 AI 개발의 필요성이 대두되고 있습니다.
예를 들어, 2016년에는 Microsoft 에서 X(이전의 트위터)에 챗봇인 테이를 출시했습니다. 이 챗봇은 사용자와의 대화를 통해 학습하도록 설계되었습니다. 그러나 출시 직후 테이는 다양한 상호작용을 파악하면서 비전문적인 언어로 응답을 생성하기 시작했습니다. Microsoft 이 봇을 신속하게 오프라인으로 전환했지만, 이는 AI 학습 에 사용되는 데이터의 신뢰성을 보장하고 기업이 이러한 데이터를 AI 제품에 어떻게 사용하는지 대중이 인지하는 것이 얼마나 중요한지를 보여주는 좋은 예입니다.
이러한 우려를 해결하기 위해 캘리포니아 주지사 개빈 뉴섬은 올해 9월 12개 이상의 AI 관련 법안에 서명했습니다. 이 법안들은 학습 데이터에 대한 세부 정보 공개부터 딥페이크 처리까지 모든 것을 다루고 있습니다. 이 글에서는 캘리포니아의 AI 법안과 이에 따른 내용을 살펴봅니다. 시작해 보겠습니다!
더 안전하고 신뢰할 수 있는 AI 개발을 지원하기 위한 세 가지 주요 법안이 법으로 제정되었습니다. 2026년에 발효되는 2013 의회 법안(AB)은 생성형 AI 제공업체가 학습 데이터세트에 관한 세부 정보를 공개하도록 규정하고 있습니다. 이러한 세부 정보에는 데이터 세트의 출처, 데이터 사용 방법에 대한 세부 정보, 세트의 데이터 포인트 수, 저작권 또는 라이선스가 있는 데이터 포함 여부, 데이터 수집 기간 등이 포함됩니다. 이러한 정보를 공유하면 AI 기업이 대중의 신뢰를 구축하는 데 도움이 됩니다.
서명된 또 다른 중요한 법안은 AB 1008입니다. 이 법안은 캘리포니아의 기존 개인정보 보호법을 제너레이티브 AI 솔루션으로 확장합니다. AB 1008은 AI 시스템이 개인 정보를 처리하는 방식에 대한 우려를 해소하고 대중의 신뢰를 높이기 위해 도입되었습니다. 한 설문조사에 따르면 소비자의 81% 이상이 AI 기업이 의도하지 않은 방식으로 자신의 정보를 사용할 수 있다고 우려하고 있는 것으로 나타났습니다. 이 법은 기업이 이름, 주소, 생체 인식 데이터와 같은 개인정보를 어떻게 사용하고 수익을 창출할 수 있는지에 대한 명확한 한계를 설정함으로써 AI 시스템이 사용자의 데이터가 노출되더라도 책임감 있게 처리할 것이라는 확신을 줄 수 있도록 도와줍니다.
마찬가지로 상원 법안(SB) 896, 즉 생성 AI 책임법에 따라 캘리포니아 비상 서비스국(CalOES)은 생성 AI 시스템으로 인한 잠재적 위협에 대한 위험 분석을 수행해야 합니다. CalOES는 OpenAI와 같은 선구적인 AI 기업 및 Anthropic와 같은 선구적인 AI 기업과 협력하여 중요한 국가 기반 시설에 대한 AI의 잠재적 위협을 논의하고 분석할 것입니다.
앞서 교육 분야에서 AI가 어떻게 학습 경험을 개인화하고, 교수법을 재정의하고, 실시간 피드백을 제공하고, 고급 도구와 인사이트를 통해 교육자를 지원할 수 있는지 살펴본 바 있습니다. 실제로 AI 혁신은 학생들에게 보다 효과적이고 몰입도 높은 학습 환경을 조성할 수 있습니다. 전 세계의 교육자와 교사들은 성공적인 파일럿 프로젝트와 광범위한 구현을 통해 AI를 더 자주 사용하고 있습니다. 연구에 따르면 교사의 50% 이상이 교실에서 AI가 교육과 학습 과정에 긍정적인 영향을 미쳤다고 생각합니다.
캘리포니아에서는 교육 기관에서의 AI 사용에 관한 두 가지 법률을 도입했습니다. AB 2876은 캘리포니아 주 교육위원회가 수학, 과학, 역사 커리큘럼 프레임워크와 교육 자료에서 AI 리터러시(2025년 1월 1일 이후)를 고려하도록 의무화합니다. 이 법의 목적은 캘리포니아의 학교가 학생들에게 인공지능의 작동 원리와 기술 사용의 한계, 영향 및 윤리적 고려 사항에 대한 기본 사항을 교육하도록 하는 것입니다.
이 외에도 SB 1288은 캘리포니아 교육감들이 2026년 1월 1일 또는 그 이전에 공립학교에서 AI가 어떻게 활용되고 있는지 조사하기 위한 실무 그룹을 구성하도록 요구합니다. 이러한 실무 그룹은 2027년 1월 1일까지 입법부의 관련 정책 및 재정 위원회에 조사 결과와 권고 사항을 제출해야 합니다. 보고서가 제출된 후에는 워킹 그룹이 해체되고 해당 조항은 2031년 1월 1일에 폐지됩니다.
생성형 AI는 신약 발견, 질병 진단, 치료 계획, 의료 챗봇 등의 혁신을 가능하게 하여 의료 산업을 개선하고 있습니다. 이러한 애플리케이션은 실시간 모니터링, 조언, 환자 치료 결과 개선을 위한 지원과 같은 이점을 제공할 수 있습니다. 증강 현실(AR)과 같은 다른 AI 기술도 수술 절차를 계획하고 시뮬레이션하는 데 사용할 수 있습니다.
의료 분야에 인공 지능을 통합하려면 데이터 개인정보 보호 및 규제와 관련된 특정 주의 사항이 따릅니다. AI가 생성한 결과의 정확성, 신뢰성, 공정성을 우선시하는 동시에 건강 정보의 프라이버시를 보호하는 것이 중요합니다.
이러한 문제를 해결하기 위해 캘리포니아에서는 의료 분야에서 생성 AI를 사용하는 것에 관한 두 가지 법률을 통과시켰습니다. AB 3030은 의료 서비스 제공자가 환자와 소통할 때 생성형 AI를 사용하는 경우, 특히 그 메시지에 환자의 임상 정보가 포함된 경우 이를 공개하도록 요구합니다. SB 1120은 의료 서비스 제공업체와 의료 보험사가 서비스를 자동화하는 방법에 제한을 두고 있습니다. 또한 이 새로운 법은 면허를 소지한 의사가 이러한 환경에서 AI 도구를 사용하는 것을 감독하도록 규정하고 있습니다.
캘리포니아 주에서는 오해의 소지가 있거나 부정확한 정보를 퍼뜨리는 AI 사용을 억제하는 법안도 통과시켰습니다. SB 942는 인기 있는 생성형 AI 시스템이 소스 데이터에 해당 콘텐츠가 AI에 의해 생성되었음을 명확하게 표시하도록 요구합니다. 이미 많은 AI 회사에서 이 작업을 수행하고 있으며, 사람들이 이 소스 데이터를 읽고 AI가 생성한 콘텐츠를 감지하는 데 도움이 되는 여러 무료 도구(ZeroGPT, Winston AI, GLTR 등)가 시중에 나와 있습니다.
캘리포니아에서 딥페이크와 관련된 문제를 해결하기 위한 세 가지 새로운 법안(AB 1831, SB 926, SB 981)이 통과되었습니다. 이 법은 기존 보호 조치를 확대하고, AI가 생성한 콘텐츠의 오용을 범죄로 규정하며, 소셜 미디어 플랫폼이 딥페이크 콘텐츠에 대한 신고 채널을 만들도록 의무화하는 내용을 담고 있습니다. 이 법은 2025년 1월부터 시행될 예정입니다.
법안으로 통과된 법안 중 하나는 AI에 대한 적절한 정의를 내리는 데 중점을 두었습니다. AB 2885는 AI를 "자율성 수준이 다양하고 명시적 또는 암묵적 목표에 따라 물리적 또는 가상 환경에 영향을 줄 수 있는 출력을 생성하는 방법을 입력으로부터 추론할 수 있는 엔지니어링 또는 기계 기반 시스템"으로 정의하고 있습니다.
엔터테인먼트 산업을 위한 두 가지 흥미로운 법도 제정되었습니다. 미국 최대의 영화 및 방송 배우 조합(SAG-AFTRA)은 이 법이 시행되는 데 중요한 역할을 했습니다. AB 2602는 영화 스튜디오가 AI를 사용하여 배우의 목소리와 외모를 복제하기 전에 배우의 허락을 받도록 규정하고 있습니다. 한편, AB 1836은 스튜디오가 유족의 동의 없이 사망한 배우의 디지털 복제품(스타워즈: 로그 원에 등장하는 피터 쿠싱의 캐릭터와 유사)을 제작하는 것을 금지하고 있습니다.
각 법에 대해 알아보면서 왜 이런 법이 꼭 필요한지 궁금하셨을 것입니다. AI 규제는 한동안 인기 있는 논의 주제였지만, 미디어와 정치 등 다양한 분야에 영향을 미친 딥페이크 콘텐츠의 등장으로 더욱 탄력을 받게 되었습니다. 예를 들어, 온라인에서 AI가 생성한 콘텐츠가 사용되면서 잘못된 정보와 선거 결과에 미칠 수 있는 잠재적 영향에 대한 우려가 커지고 있습니다. 또한 AI 혁신으로 인한 개인정보 보호와 개인 데이터의 오용에 대한 우려도 커지고 있습니다. 이러한 문제들로 인해 이러한 문제를 해결하기 위한 여러 가지 새로운 법률이 제정되고 있습니다.
예를 들어, AB 2905는 로보콜이 인공지능으로 생성된 음성인지 여부를 공개하도록 강제하고 있습니다. 또한 AB 2655는 Facebook 및 X와 같은 대형 온라인 플랫폼에 선거와 관련된 딥페이크 콘텐츠를 삭제하거나 라벨을 부착하고 이러한 콘텐츠에 대한 신고 채널을 만들 것을 요구합니다. 또한 후보자와 선출직 공무원은 플랫폼이 이를 준수하지 않을 경우 금지명령 구제를 요청할 수 있습니다.
또 다른 법안인 AB 2839는 유권자를 오도할 수 있는 딥페이크를 게시하거나 재게시하는 소셜 미디어 사용자를 대상으로 합니다. 마찬가지로 AB 2355는 AI 도구를 사용하여 만든 정치 광고에 대한 명확한 공개를 규정하고 있습니다.
캘리포니아의 새로운 AI 법은 혁신과 책임의 균형을 맞추려는 캘리포니아의 노력을 반영합니다. 이 법은 데이터 투명성, 개인정보 보호, 딥페이크, 의료 및 교육에서의 AI 사용과 같은 분야의 주요 우려 사항을 해결함으로써 개인과 사회를 보호하는 동시에 책임감 있는 AI 개발을 촉진하는 것을 목표로 합니다. AI가 계속 발전함에 따라 이러한 규제는 윤리적 관행과 대중의 신뢰를 동반한 성장을 보장하는 데 도움이 될 것입니다. 또한 이러한 법률은 전 세계 다른 지역에서도 이를 따르도록 장려할 수 있습니다.
자세히 알아보려면 GitHub 리포지토리를 방문하여 커뮤니티에 참여하세요. 솔루션 페이지에서 제조 및 농업 분야의 AI 애플리케이션을 살펴보세요. 🚀
