새크라멘토 — 일론 머스크와 그의 회사 X는 캘리포니아의 대표적인 반허위정보법 중 하나의 시행을 중단하기 위한 소송을 제기했습니다. 이 회사는 소셜 미디어 회사가 플랫폼에서 만연한 선거 관련 허위정보에 대한 책임을 져야 한다는 AB 2655의 합헌성에 이의를 제기하고 있습니다. 

캘리포니아 기술 및 민주주의 이니셔티브가 후원하는 이 법안은인용됨), 캘리포니아 공통 원인 프로젝트는 AI와 허위 정보가 우리 선거에 끼치는 위험을 해결하기 위해 전국에서 취한 가장 적극적인 조치 중 일부를 나타냅니다. 

“우리의 민주주의와 국민이 선거에 대한 정확한 정보를 얻을 권리는 협상의 대상이 아니다”고 말했습니다. 캘리포니아 공통 원인의 전무 이사인 Jonathan Mehta Stein. “우리는 억만장자 과두 정치가들이 재정적, 정치적 이득을 위해 우리 정부 기관의 성실성을 갉아먹는 것을 허용할 수 없습니다.”

의원 마크 버먼이 작성한 AB 2655는 특정 기간 동안 선거와 관련된 사기성 AI 딥페이크를 제거하거나 라벨을 붙이도록 대규모 온라인 플랫폼에 전국 최초로 요구 사항을 적용하여 선거에서 온라인 허위 정보를 근절하고, 이러한 콘텐츠를 보고할 수 있는 메커니즘을 제공하도록 요구합니다. 또한 후보자, 선출직 공무원, 선거 관리자, 법무 장관, 지방 검사 또는 시 변호사가 법안을 준수하지 않는 대규모 온라인 플랫폼에 대해 가처분 구제를 요청할 수 있는 권한을 부여합니다.

이 사건의 결과는 전국적인 영향을 미칠 것입니다. 캘리포니아는 세계에서 가장 크고 강력한 소셜 미디어 플랫폼과 AI 회사의 본거지입니다. 이 주는 혁신 경제에 대한 회사의 기여로 엄청난 혜택을 받았지만, 기술은 마지막으로 규제되지 않은 산업 중 하나입니다. 

“X와 같은 회사가 자신들의 엄청난 권력을 책임지도록 하는 첫 번째 법률을 중단시키려 한다는 것은 놀라운 일이 아닙니다.”라고 덧붙였습니다. 슈타인. “올해 초, Elon Musk가 오해의 소지가 있는 딥페이크 X에서 1주일 동안 1억 5천만 번 조회된 카말라 해리스 부통령의 영상은 계속해서 늘어나는 허위 정보의 바다에서 한 방울에 불과합니다. 그렇기 때문에 유일한 지속 가능한 해결책은 상식적인 규정을 통과시켜 AI가 주도하는 허위 정보로부터 민주주의를 안전하게 보호하는 것입니다.”

딥페이크는 이미 아르헨티나, 인도, 슬로바키아, 대만, 방글라데시, 그리고 가장 최근에는 2024년 미국 대선에서 국가 선거를 불안정하게 만들었습니다. 이 문제가 정점에 도달한 바로 그때, 많은 기술 및 소셜 미디어 플랫폼은 신뢰와 안전 팀에 대한 투자를 줄였고 이를 해결할 책임에서 벗어났습니다. 이로 인해 유권자들은 어떤 이미지, 오디오, 비디오를 신뢰할 수 있는지 알지 못한 채 잔해를 치워야 했습니다.

Common Cause는 수년 전 딥페이크와 AI 기반 허위 정보를 우리 민주주의에 대한 심각한 위협으로 처음 식별하고 이를 시작했습니다. 캘리포니아 기술 및 민주주의 이니셔티브(CITED) 2023년 11월에 캘리포니아가 허위 정보, AI, 딥페이크 및 기타 신기술이 우리 민주주의와 선거에 미치는 위협에 대한 솔루션을 위한 싸움을 이끌도록 돕기 위해 설립되었습니다. 

의회가 절망적으로 교착 상태에 빠지자, CITED가 나서서 캘리포니아 의회를 통해 AI 허위 정보 문제를 해결하기 위한 미국에서 가장 강력한 법안인 AB 2655와 AB 2839를 통과시키기 위해 노력했습니다. 기후 기준과 자동차 배출 가스와 마찬가지로 캘리포니아에서 이런 법안을 통과시키면 전국적인 결과를 가져올 수 있었기 때문입니다.