CITED의 2024년 입법 패키지는 AI, 딥페이크, 허위 정보가 우리 민주주의에 미치는 위험을 규제하는 데 도움이 될 것입니다.
새크라멘토, 캘리포니아 — 수요일에는 캘리포니아 기술과 민주주의 이니셔티브 (CITED), 캘리포니아 공통 원인 프로젝트 발표하다 주요 입법자들과 함께 2024년 입법 패키지를 구성합니다. 이 민주주의 지도자들은 함께 캘리포니아의 민주주의와 유권자들을 현재 가장 큰 위협 중 하나인 생성적 AI와 딥페이크에 의해 가속화된 허위 정보로부터 의미 있게 보호하기 위한 첫 걸음을 내딛는 것을 목표로 합니다.
“AI와 허위 정보는 우리 민주주의에 대한 실존적 위협이며, 우리는 돌이킬 수 없는 지점에 도달했습니다. 지금이 행동할 때입니다.”라고 말했습니다. 캘리포니아 Common Cause의 전무이사 Jonathan Mehta Stein. “CITED와 입법 파트너는 편견 없고 독립적이며 학제간적인 접근 방식을 사용하여 우리 삶의 가장 큰 문제 중 하나로 떠오르고 있는 것의 핵심을 짚어내는 동시에 자유로운 언론을 옹호하고 기술 혁신을 존중하는 입법 의제를 개발했습니다.”
2020년 이래로 유권자들은 허위 정보가 그 어느 때보다 정치를 오염시키는 것을 보았고, 이제 AI가 생성한 딥페이크가 정보 생태계의 일상적인 부분이 되면서 이 문제는 빠르게 심화되고 있습니다. 딥페이크는 이미 아르헨티나, 슬로바키아, 대만, 방글라데시, 미국 대선 예비선거에서 국가 선거를 불안정하게 만들었습니다. 이 문제가 절정에 달하는 동안 많은 기술 및 소셜 미디어 플랫폼은 신뢰 및 안전 팀에 대한 투자를 줄이고 이를 해결할 책임에서 벗어나고 있습니다. 이제 유권자들은 어떤 이미지, 오디오, 비디오를 신뢰할 수 있는지 알지 못한 채 잔해를 치워야 합니다.
CITED의 작업은 연구 및 사고 리더십에 의해 알려졌습니다. 기술, 법률, 공공 정책, 시민권, 시민 참여 및 학계의 거물, 유럽 연합, 백악관, 의회, 전국 주에서 성공 사례와 떠오르는 아이디어에 영향을 받았습니다. 산업과 무관하고 양당의 리더십을 바탕으로 CITED는 사적 의제와 당파성에서 벗어난 분석과 지침을 제공합니다.
CITED의 2024년 입법 패키지에는 다음이 포함됩니다.
- 상원의원 스티브 파딜라의 SB 1228. 소셜 미디어 사용자에게 익명의 트롤과 가장 많은 팔로워를 보유하고 있으며 허위 정보를 퍼뜨릴 수 있는 가장 큰 힘을 가진 허위 정보 확산자에 대한 정보를 더 많이 제공합니다.
- 게일 펠레린 의원의 AB 2839. 선거일에 가까운 캠페인 광고와 독립 지출에서 오해의 소지가 있는 딥페이크를 차단하여 후보자와 선거 관리자를 보호합니다.
- 의원 마크 버먼의 AB 2655. 생성적 AI 딥페이크에 라벨을 붙이고, 가장 악의적이고 명백한 것을 선거일에 가깝게 제한함으로써 선거와 관련된 온라인 허위 정보를 퇴치합니다.
브리핑에서 발췌한 내용을 연사 순으로 정리하면 아래와 같습니다.
“외국의 적대자들은 이번 선거 주기 동안 미국을 잘못된 정보로 만들고 분열시키기 위해 새롭고 강력한 기술을 활용하기를 바라고 있습니다.”라고 말했습니다. 스티브 파딜라 상원의원. “악의적인 행위자와 외국 봇은 이제 가짜 비디오와 이미지를 만들고 수백만 명에게 거짓말을 퍼뜨릴 수 있는 능력을 가지고 있습니다. 우리는 우리의 콘텐츠 플랫폼이 가능하다고 알고 있는 종류의 악의적인 간섭으로부터 보호되도록 해야 합니다. 많은 팔로워가 있는 계정의 신원을 확인하면 정보 스트림을 손상시키려는 사람들을 걸러낼 수 있습니다.”
"선거에 혼란을 일으키려는 나쁜 행위자들은 항상 있었습니다. 선거 결과를 방해하기 위해 사람들이 잘못된 투표소를 알려주는 도어 행거를 배포했던 선거를 기억합니다. 하지만 이제 생성 AI에 대한 광범위한 접근성으로 인해 그런 종류의 피해가 훨씬 더 정교해지고 확산되기가 더 쉬워졌습니다." 의원 게일 펠레린이 말했습니다. "유권자들에게 올바른 정보를 제공하는 것은 기능하는 민주주의에 매우 중요하며, 이러한 딥페이크가 온라인에 퍼져 유권자들에게 의도적으로 잘못된 정보를 제공할 때 선거의 공정성을 보장하는 것은 매우 어려워집니다."
“AB 2655는 온라인 플랫폼이 유권자의 투표를 방해하거나 사기성 콘텐츠를 기반으로 유권자를 속이는 것을 목적으로 하는 선거 관련 사기성 딥페이크의 확산을 제한하도록 보장할 것입니다.”라고 밝혔습니다. 의원 마크 버먼. “딥페이크는 허위 정보 캠페인을 벌이려는 사람들의 무기고에 있는 강력하고 위험한 도구이며, 거짓이거나 전혀 일어나지 않은 사람의 말과 행동을 돌려 우리 민주주의에 엄청난 혼란을 일으킬 잠재력이 있습니다. AI의 발전으로 사실상 누구나 이런 기만적인 콘텐츠를 쉽게 생성할 수 있게 되었고, 유권자를 속이고 우리 민주주의를 훼손할 기회를 갖기 전에 이를 식별하고 확산을 제한하는 것이 훨씬 더 중요해졌습니다.”