유권자들이 정확한 정보에 접근할 수 있을 때에만 우리의 민주주의는 번영할 수 있습니다. 하지만 인공지능(AI)으로 제작된 딥페이크는 허위 정보를 퍼뜨리고 투표를 억제하기 위해 무기화되고 있습니다. 예를 들어, 딥페이크 비디오 Ron DeSantis가 2024년 대선에서 탈락한다고 선언했거나 GOP 딥페이크 바이든 대통령이 재선되면 미래의 미국이 어떤 모습일지 보여주는 영상입니다. 

매사추세츠주의 새로운 법안은 정치 광고에서 인공지능 사용을 규제하여 투명성과 책임을 강화합니다. 

딥페이크란 무엇인가?

딥페이크는 유권자를 오도하는 데 사용될 수 있는 디지털로 변경된 비디오, 오디오 또는 이미지입니다. 이 콘텐츠는 실제로 발생하지 않은 사건이나 진술을 보여줍니다. 이 AI 기술을 사용하면 문자 그대로 다른 사람의 입에서 나오는 말과 얼굴 표정을 표현할 수 있습니다. 걱정스럽군요. 

2018년, 영화감독 조던 필은 딥페이크의 위험성을 보여주는 짧은 딥페이크 영상을 제작했습니다.

불행히도 그 영상이 공개된 지 6년이 지난 지금, 딥페이크 영상은 점점 더 저렴하고 쉽게 제작될 뿐이며, 걱정스러운 점은 훨씬 더 설득력이 있다는 것입니다. 

왜 지금 행동해야 할까?

AI 기술은 빠르게 발전하고 있으며, 딥페이크와 현실을 구별하기가 점점 더 어려워지고 있습니다. 몇 년 전에는 많은 예산과 전체 제작팀이 필요했을 비디오를 이제는 일반 사용자가 몇 번의 클릭만으로 만들 수 있습니다. 

딥페이크는 2024년 대선에 이미 등장했습니다. 뉴햄프셔 예비선거에서 유권자들은 조 바이든 대통령을 사칭하는 로보콜 수신자에게 대선 예비선거에 투표하지 말라고 알렸습니다. 

왜 정치적 딥페이크는 아직 불법이 아닌가?

AI가 생성한 콘텐츠는 사기와 자유로운 발언의 경계를 모호하게 만듭니다. 소셜 미디어에서 사람들은 플랫폼 정책의 매개변수 내에서 자신의 생각과 견해를 자유롭게 표현할 수 있습니다. 

1996년 통신품위법 230조에 따라 인터넷 서비스 제공자는 사용자 콘텐츠에 대한 책임에서 면제되며 콘텐츠를 조정하고 삭제하는 방법에 대한 자체 기준을 설정할 수 있습니다. 이는 사용자가 자신의 콘텐츠에 대한 책임을 지도록 하며, 온라인 자유를 촉진하고 유해한 콘텐츠를 완화하는 것 사이의 균형을 둘러싼 논쟁을 불러일으킵니다.

매사추세츠 주 의원들은 무엇을 할 수 있나요?

매사추세츠 주 법원에 현재 딥페이크가 선거에서 허위 정보를 퍼뜨리는 것을 막기 위한 법안이 계류 중입니다. 하원은 방금 선거 관련 자료에서 딥페이크를 규제하는 법안을 통과시켰고 또한 S.2730 이는:

• 선거일로부터 90일 이내에 게재되는 정치 광고에 딥페이크를 공개하도록 요구하고
• 딥페이크의 피해를 입은 후보자에게 게시자를 고소할 권리를 부여하세요.

어떻게 도울 수 있나요?

매사추세츠에 거주하는 경우 해당 주의원에게 연락하여 해당 법안을 통과시키도록 촉구하십시오. S.2730 우리 민주주의의 미래를 보호하기 위해서입니다. 

어디에 살든, 친구나 가족에게 딥페이크에 대해 이야기하고 온라인에서 보는 정보의 정확성을 확인하도록 격려할 수 있습니다. 또한 허위 정보를 신고할 수도 있습니다. https://reportdisinfo.org/.