캘리포니아 기술 및 민주주의 이니셔티브(CITED) 수정 제1조 주석

뉴섬 주지사는 최근 두 개의 법안에 서명했다 AI를 활용한 허위 정보가 우리 선거에 미치는 위협에 대처합니다.

AB 2839 그리고 AB 2655 가장 심각한 선거 허위 정보를 다루기 위해 면밀하게 맞춤화되고 신중하게 만들어졌으며, 언론의 자유를 침해하거나 정치적 대화를 방해하거나 무해한 내용을 실수로 침해하지 않습니다. 

AB 2839

제한된 성격 AB 2839

AB 2839, 즉시 발효되는 이 법안은 후보자, 선출 공무원 또는 선거 관리자가 하지 않은 일을 하거나 말한 것처럼 묘사하거나, 선거 장비와 투표 장소를 실질적으로 거짓된 방식으로 명시하는 정치적 딥페이크를 금지합니다. 이는 최악의 선거 허위 정보만을 표적으로 삼는 방식으로 이를 수행합니다.

• 그것은 "실질적으로 기만적인" 딥페이크 콘텐츠에만 적용되며, 이는 합리적인 사람을 속일 수 있는 콘텐츠에만 적용된다는 것을 의미합니다. 명백히 가짜, 농담, 만화적 또는 풍자적인 것은 법안에 영향을 받지 않습니다. (§ 20012(b)(1))
• 이는 실질적으로 사기성이 있는 딥페이크 콘텐츠를 배포하는 사람의 "악의"가 있어야 하며, 이는 해당 콘텐츠가 거짓임을 알고 있거나 진실을 무모하게 무시하는 경우에만 적용된다는 것을 의미합니다. (§ 20012(b)(1))
• 합리적인 사람을 속여 진실이라고 믿게 할 정도로 매우 사실적인 패러디나 풍자적 정치적 딥페이크는 해당 콘텐츠가 디지털로 생성되거나 조작되었다는 사실을 시청자에게 알려야 합니다. (§ 20012(b)(3))
• 선거 전 120일 이내에만 적용되고, 선거 관리자나 투표 시스템에 대한 딥페이크의 경우 선거 후 60일 이내에만 적용됩니다. 선거 허위 정보의 위험이 가장 높을 때만 적용되며, 항상 적용되는 것은 아닙니다. (§ 20012(c))

나쁜 배우만이 걱정할 것이 있습니다

간단히 말해서, AB 2839 속이려는 의도가 있고 합리적인 사람을 속일 만큼 정교해서 합리적인 사람을 속일 수 있는 정치적 딥페이크만 금지합니다. (합리적인 사람 기준은 법률에서 일반적이며 법원은 다양한 분야에 적용하는 데 어려움이 없습니다.) 소셜 미디어 사용자나 정치적 행위자가 동료 미국인에게 거짓말을 하고 속이며 선거를 사기적으로 훼손하려고 하지 않는 한, AB 2839 그들에게는 영향을 미치지 않습니다.

무엇을 할 것인가 AB 2839 실제로 적용해 보면?

이 법안이 적용될 정치적 딥페이크의 한 예는 뉴햄프셔 주의 예비 선거 전에 뉴햄프셔 민주당원들에게 보낸 "조 바이든" 로보콜로, 투표하지 말라고 촉구했습니다. 이 가짜 로보콜은 유권자들을 속이려는 의도였고 거의 모든 사람을 속일 만큼 정교했습니다. 

법적 구제수단은 무엇인가?

AB 2839 법안을 위반한 딥페이크의 수신자 또는 피해자가 가처분 명령을 통해 허위 정보의 확산을 신속히 중단하고 적절한 경우 손해배상을 청구할 수 있는 신속한 절차를 사용할 수 있도록 허용합니다. 형사 책임은 없습니다.

AB 2655

제한된 성격 AB 2655

AB 26552025년 1월 1일부터 시행되는 이 법안은 선거 전후 엄격히 제한된 시간 동안 다음을 중단하는 것을 목표로 합니다. 온라인 유권자들이 투표하지 못하도록 악의적으로 의도한 최악의 딥페이크와 허위 정보가 퍼지거나, 사기성 콘텐츠를 기반으로 잘못 투표하게 만드는 행위. 

이 법안은 대규모 온라인 플랫폼이 통지 시 해당 콘텐츠를 삭제하도록 요구함으로써 이를 수행합니다. 금지될 수 있는 콘텐츠는 유권자를 사기하려는 후보자, 선거 관리자 및 선출직 공무원의 딥페이크로 제한됩니다. 이 법안은 또한 선거와 관련된 다른 가짜 온라인 콘텐츠도 제한된 기간 동안만 가짜로 표시해야 한다고 요구합니다. 

• 그것은 "실질적으로 기만적인" 딥페이크 콘텐츠에만 적용되며, 이는 합리적인 사람을 속일 수 있는 콘텐츠에만 적용된다는 것을 의미합니다. 명백히 가짜, 농담, 만화적 또는 풍자적인 것은 법안에 영향을 받지 않습니다. (§ 20513(a))
• 콘텐츠가 악의적으로 배포되어야 합니다. (§§ 20513(a)(2)(C), 20514(a)(3))
• 선거 전 120일 이내에만 적용되고, 선거 관리자와 관련된 딥페이크의 경우 선거 후 60일 이내에만 적용됩니다. 선거 허위 정보의 위험이 가장 높을 때만 적용되며, 항상 적용되는 것은 아닙니다. (§ 20513(e))
• 패러디나 풍자는 특별히 법률에서 면제됩니다. (§ 20519(c))

무엇을 할 것인가 AB 2655 실제로 적용해 보면?

이 법안이 적용될 정치적 딥페이크의 예로는 선거일 직전에 지역 시장이 뇌물을 받는 모습이 "녹화에 잡힌" 딥페이크 영상이 포함된 Tik Tok 게시물이나 선거일 직후에 카운티 선거 관리자가 모든 투표 기계가 해킹당했다고 말하는 모습을 딥페이크 영상으로 포함한 X 게시물이 있습니다. 

법적 구제수단은 무엇인가?

AB 2655 가처분 명령을 통해 허위 정보의 확산을 신속히 중단하기 위한 신속한 절차를 통해 집행 가능합니다. 형사 또는 민사상 책임이 없습니다.