CITED 법안 패키지의 두 법안이 캘리포니아 의회 및 상원을 통과했습니다. 아동 성적 학대 자료에 사용된 생성 AI 시스템이 CITED 조사 후 철회되었습니다.

새크라멘토 – 이번 주, AI 기반 허위 정보가 우리 선거에 미치는 위협을 다루는 법안이 캘리포니아 주 의회의 마지막 주요 걸림돌을 제거했습니다. 청구서캘리포니아 기술 및 민주주의 이니셔티브(California Initiative for Technology and Democracy)의 후원으로 진행됨인용됨), 캘리포니아 공동사유의 프로젝트가 상원과 의회를 통과했고, 이제 9월 말까지 법으로 서명되기 위해 뉴섬 주지사의 책상으로 향하고 있습니다.

“이 법안이 주지사에 의해 서명된다면 캘리포니아는 AI와 허위 정보가 우리 선거에 미치는 위험을 해결하기 위해 지금까지 미국에서 가장 단호한 조치를 취하게 될 것입니다.”라고 말했습니다. 캘리포니아 Common Cause의 전무이사이자 CITED의 공동 창립자인 Jonathan Mehta Stein. “우리는 다른 선거나 입법 주기가 조치를 취할 때까지 기다릴 여유가 없습니다. CITED의 입법은 다른 주와 전국 의회에서 개혁을 위한 길을 여는 데 도움이 될 수 있습니다.”

이 입법 패키지는 혁신이나 언론의 자유를 억압하지 않으면서 AI와 소셜 미디어에 의해 가속화된 허위 정보의 위험을 규제하는 데 도움이 되는 것을 목표로 합니다. 현재 주지사의 책상에 놓여 있는 인용된 두 법안은 다음과 같습니다.

• AB 2839, Gail Pellerin 의원의 제안. 선거일에 가까운 선거 광고와 선거 홍보에서 오해의 소지가 있는 딥페이크를 차단하여 후보자와 선거 관리자를 보호하고 수정 헌법 제1조를 존중합니다. 이 법은 엘론 머스크가 오해의 소지가 있는 딥페이크 카말라 해리스 부통령의 영상은 X에서 1주일 만에 1억 5천만 번 조회되었습니다. 
• AB 2655, Marc Berman 의원의 제안. 유권자를 속일 수 있는 생성적 AI 딥페이크를 디지털 또는 가짜 콘텐츠로 분류하도록 소셜 미디어 플랫폼에 요구하고, 선거일에 가까워지면 가장 악의적인 딥페이크를 게시하는 것을 금지함으로써 선거에서 온라인 허위 정보를 퇴치합니다. 

“국내외에서 우리는 이미 AI 기반 허위 정보가 선거 과정의 성실성을 어떻게 훼손하고 유권자들에게 피해를 줄 수 있는지 보고 있습니다.”라고 그는 말했습니다. Drew Liebert, CITED 이사. “CITED의 법안은 미국에서 증가하는 디지털 위협으로부터 민주주의를 보호하려는 가장 미묘하고 균형 잡히고 미래지향적인 시도 중 일부를 나타냅니다. 주지사가 캘리포니아를 국가 민주주의 리더로 유지하고 이러한 대담한 조치를 국가를 위한 모델로 만들기를 바랍니다.”

또한 이번 주에는 아동 성적 학대 자료와 합의되지 않은 친밀한 이미지(아동 포르노 및 딥페이크 포르노라고도 함)를 생성하는 데 사용되는 인기 있는 AI 딥페이크 도구가 리콜되었습니다. CITED의 수석 정책 고문인 David Evan Harris의 문의. 이는 AI 회사가 더욱 엄격한 감시를 받게 될 가능성이 높다 그들이 계속해서 무책임하고 비윤리적인 제품을 출시한다면?

California Common Cause는 2023년 11월에 California Initiative for Technology and Democracy(CITED)를 출범시켜 캘리포니아가 허위 정보, AI, 딥페이크 및 기타 신흥 기술이 우리 민주주의와 선거에 미치는 위협에 대한 해결책을 위한 싸움을 이끌도록 도왔습니다. 대중은 그러한 해결책에 목말라 있습니다. 2023년 11월 버클리 IGS 여론조사, 캘리포니아 유권자 84%는 선거에 대한 디지털 위협에 대해 우려하고 있으며 73%는 주 정부가 조치를 취할 "책임"이 있다고 믿는다고 말했습니다. 이러한 지지는 모든 인종, 연령, 성별, 지역 및 정당의 유권자에게 공통적입니다.

CITED의 제안은 연구 및 사고 리더십에 의해 알려졌습니다. 기술, 법률, 공공 정책, 시민권, 시민 참여 및 학계의 거물, 그리고 유럽 연합, 백악관, 의회, 그리고 전국의 주들의 성공과 떠오르는 아이디어에 영향을 받았습니다. 산업과 무관하고 양당의 리더십을 갖춘 CITED의 지침은 사적 의제와 당파성에서 분리되어 있습니다. 

CITED는 첫해에 기술 문제가 민주주의와 유권자에게 영향을 미치는 독립적이고 편견 없는 정책 전문 지식의 새크라멘토의 거점 소스로 자리매김했습니다. 주요 의사 결정권자에게 조언하는 것 외에도, 그리고 의회의 무관심에 직면하여 CITED는 자체 입법 의제를 추진했습니다.

캘리포니아 공통사명단체와 CITED는 2024년 회기에서 버피 윅스 의원, 게일 펠러린 의원, 마크 버먼 의원, 스티브 파딜라 상원의원의 리더십과 파트너십에 감사를 표합니다.