다음은 티스토리 포스팅용으로 작성한 '캘리포니아의 18가지 새로운 AI 관련 법'에 대한 리뷰 글입니다.캘리포니아의 새로운 AI 법안 18가지: 무엇이 불법인가?

2023년 9월, 캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)은 AI와 관련된 38개의 법안을 검토하였고, 그중 18개는 법으로 제정되었습니다. 이 법안들은 특히 생성형 AI의 위험성, 딥페이크 음란물, 그리고 사망한 배우들의 디지털 복제 등의 문제를 다룹니다. 캘리포니아는 AI 기술의 발전에 따라 가장 빠르게 대응하고 있는 주 중 하나로, AI 관련 위험성을 최소화하고자 하는 노력이 두드러집니다. 이번 포스팅에서는 이러한 법안들의 주요 내용을 정리하고, 각 법이 가지는 의미와 영향을 살펴보겠습니다.

AI 기술과 법적 규제

1. SB 896: AI 위협 분석 강화

SB 896은 캘리포니아 비상대책본부(CalOES)가 주요 AI 기업들과 협력하여 AI가 주의 인프라에 미칠 잠재적 위험을 분석하도록 요구합니다. 이를 통해 대규모 인명 피해를 초래할 수 있는 위협을 사전에 파악하고 대비할 수 있는 시스템을 구축하려는 목적을 가지고 있습니다.

2. AB 2013: AI 학습 데이터 공개 의무화

2026년부터 발효되는 AB 2013 법안은 생성형 AI를 제공하는 기업들이 AI 시스템을 학습시키는 데 사용된 데이터를 공개해야 한다는 의무를 부여합니다. 데이터의 출처, 사용 방법, 저작권 여부 등을 명확히 공개함으로써 투명성을 높이고, AI가 어떠한 데이터를 바탕으로 작동하는지 소비자들에게 알리는 역할을 합니다.

3. AB 1008: 개인정보 보호 확장

캘리포니아의 기존 개인정보 보호법은 생성형 AI 시스템에도 적용됩니다. 만약 AI가 개인정보를 유출하거나 악용한다면, 기존의 개인정보 보호법에 따라 기업들이 책임을 져야 하며, 해당 데이터를 상업적으로 활용할 수 없게 됩니다.

4. AB 2876: AI 교육의 중요성

캘리포니아의 교육위원회는 학생들에게 AI 리터러시를 가르치는 교육 과정을 도입해야 합니다. 이는 학생들이 AI 기술의 기본 원리와 윤리적 문제를 이해하고, AI의 한계를 인식할 수 있도록 도와줍니다. AI에 대한 올바른 이해는 미래 사회에서 점점 더 중요해질 것입니다.

5. SB 926: 딥페이크 음란물 금지

SB 926은 AI로 생성된 음란물을 사용한 협박 행위를 불법으로 규정하는 법안입니다. 이러한 딥페이크 음란물은 특히 피해자에게 큰 심리적 고통을 주며, 법은 이를 신속하게 차단하고 가해자를 처벌할 수 있는 제도를 마련하였습니다.

6. 선거 관련 딥페이크 규제 (AB 2655, AB 2839)

캘리포니아는 선거에 영향을 미칠 수 있는 AI 생성 딥페이크 콘텐츠를 엄격히 규제하고 있습니다. AB 2655는 대형 소셜 미디어 플랫폼이 이러한 딥페이크 콘텐츠를 신속히 삭제하거나 라벨링하도록 규정하고 있으며, AB 2839는 선거 관련 AI 생성 콘텐츠를 퍼뜨리는 사용자들에게 법적 제재를 가하는 법안입니다.

7. 미디어 산업에서의 AI 규제 (AB 2602, AB 1836)

AB 2602는 AI가 배우의 목소리나 모습을 복제하는 데 있어 사전 허가를 받아야 한다는 법적 요구 사항을 명시하고 있습니다. AB 1836은 사망한 배우들의 디지털 복제를 금지하며, 이는 유족의 동의 하에만 가능합니다. 이는 AI 기술이 예술 및 미디어 산업에 미치는 영향을 규제하기 위한 법적 장치입니다.

캘리포니아의 AI 규제: 긍정적 변화의 시작

이번 법안들은 AI 기술의 빠른 발전과 그에 따른 윤리적 문제들을 다루고 있습니다. 캘리포니아는 이러한 규제를 통해 AI의 위험성을 줄이고, 보다 투명한 AI 활용을 추구하고 있습니다. 특히, 개인정보 보호, 딥페이크 음란물 방지, AI 교육 강화 등은 매우 실질적이고 중요한 변화로 평가받고 있습니다. 그러나 여전히 많은 부분에서 추가적인 법적 장치가 필요하며, AI 기술이 어떻게 발전해 나갈지에 따라 규제의 필요성은 더욱 커질 것입니다.