실리콘 밸리의 압력 속에서 AI 재난 방지 법안의 변화: SB 1047의 주요 수정사항 분석

최근 기술의 발전은 우리 삶의 많은 부분을 혁신하고 있습니다. 특히 인공지능(AI) 기술은 그 잠재력과 함께 다양한 리스크를 내포하고 있는데요, 이에 대응하기 위해 캘리포니아 주에서는 SB 1047 법안을 제정하여 AI 관련 재난을 방지하고자 했습니다. 그러나 법안은 다양한 이해관계자들의 의견을 반영하여 수차례 수정되었습니다.

SB 1047 법안의 주요 내용 및 변경점

초기 제안된 법안의 내용

SB 1047은 처음에 AI 시스템으로 인해 대규모 인명 피해나 5억 달러 이상의 사이버 보안 사건이 발생하는 것을 막기 위한 목적으로 제안되었습니다. 개발자들은 AI 모델이 재난을 초래할 경우 법적 책임을 져야 했습니다.

수정된 법안의 주요 변경점

법안은 실리콘 밸리의 주요 기업들과 AI 전문 기업 Anthropic의 제안을 받아들여 수정되었습니다. 가장 주목할 만한 변경점은 다음과 같습니다:

• 캘리포니아 법무장관이 재난 발생 전 AI 기업에 대해 부주의한 안전 관행으로 소송을 제기할 수 없게 되었습니다.
• 대신, 법무장관은 위험하다고 판단되는 특정 운영을 중단하도록 요청할 수 있으며, 모델이 실제로 재난을 유발할 경우 개발자를 상대로 소송을 제기할 수 있습니다.
• 법안은 이제 Frontier Model Division (FMD)을 신설하지 않고, 대신 기존 정부 운영 기관 내에 Frontier Models의 이사회를 설치하도록 했습니다.

법안의 잠재적 영향 및 산업 반응

산업계의 반응

이 법안은 미국 의회 의원들, 유명 AI 연구자들, 대형 기술 회사, 벤처 캐피탈리스트들로부터 상당한 반대를 받았습니다. 그러나 캘리포니아 주 의회를 통과하는 데는 상대적으로 쉬웠으며, 이러한 수정은 법안에 반대하는 이들을 달래고 주지사가 AI 산업의 지지를 잃지 않고 법안을 서명할 수 있도록 만들 가능성이 높습니다.

법안의 실질적 영향

이 법안은 여전히 개발자들이 자신들의 AI 모델로 인한 위험을 책임지도록 하고 있습니다. 하지만 실제로 법안이 AI 개발과 혁신에 미칠 영향은 더 지켜봐야 할 사항입니다.

 

결론: AI 기술의 안전한 발전을 위한 제도적 장치

최근 수정된 SB 1047 법안은 AI 기술의 안전을 보장하고 잠재적 재난을 예방하려는 시도입니다. 이 법안이 최종적으로 통과되어 적용된다면, AI 개발의 새로운 규제 프레임워크로 자리 잡을 수 있을 것입니다. 앞으로 AI 기술이 우리 일상에 미치는 영향은 더욱 커질 것이며, 이러한 법적, 제도적 장치가 실제로 큰 사고를 예방하는 데 기여할 수 있을지 지속적인 관심이 필요합니다.

 

https://techcrunch.com/2024/08/15/california-weakens-bill-to-prevent-ai-disasters-before-final-vote-taking-advice-from-anthropic/

California weakens bill to prevent AI disasters before final vote, taking advice from Anthropic | TechCrunch