Two bills from CITED’s bill package pass the California Assembly & Senate; generative AI system used for child sexual abuse material taken down after CITED inquiry

SACRAMENTO – This week, legislation addressing the threat that AI-powered disinformation poses to our elections cleared the last major hurdle in the California state legislature. The bills, gefördert durch die California Initiative for Technology and Democracy (Zitiert), a project of California Common Cause, passed the Senate and Assembly floors and now head to Governor Newsom’s desk to be signed into law by the end of September.

“If these bills are signed by the Governor, California will have taken the most assertive steps in the U.S. to date to address the dangers that AI and disinformation pose to our elections,” said Jonathan Mehta Stein, Geschäftsführer von California Common Cause und Mitbegründer von CITED. “We can’t afford to wait for another election or legislative cycle to take action. CITED’s legislation can help lead the way for reforms in other states and nationally in Congress.”

The legislative package aims to help regulate the dangers of disinformation turbocharged by AI and social media without stifling innovation or freedom of speech. The two CITED bills that now sit on the Governor’s desk are:

• AB 2839, von Abgeordneter Gail Pellerin. Verhindert, dass irreführende Deepfakes in Wahlkampfanzeigen und Wahlkommunikation kurz vor dem Wahltag verwendet werden, schützt Kandidaten und Wahlbeamte und respektiert gleichzeitig den Ersten Verfassungszusatz. Dieses Gesetz hätte sich mit Elon Musks Weitergabe eines irreführender Deepfake video of Vice President Kamala Harris, which was viewed 150 million times in one week on X. 
• AB 2655, von Abgeordnetem Marc Berman. Combats online disinformation in our elections by requiring social media platforms to label generative AI deepfakes that can deceive voters as digital or fake content, and by prohibiting the posting of the most pernicious of them close to Election Day. 

“At home and around the world, we’re already seeing how AI-powered disinformation can undermine the integrity of election processes and hurt voters,” said Drew Liebert, Direktor von CITED. “CITED’s bills represent some of the most nuanced, balanced, and forward-looking attempts in the United States seeking to protect our democracy from the growing digital threats. We hope the Governor will keep California as the nation’s democracy leader and make these bold measures models for the nation.”

Additionally, this week a popular AI deepfake tool used to generate child sexual abuse material and non-consensual intimate imagery (also known as child pornography and deepfake pornography) was recalled after inquiries from CITED’s Senior Policy Advisor, David Evan Harris. This sets a precedent that AI companies will likely see increased scrutiny should they continue releasing irresponsible and unethical products.

California Common Cause hat im November 2023 die California Initiative for Technology and Democracy (CITED) ins Leben gerufen, um Kalifornien dabei zu unterstützen, den Kampf um Lösungen für die Bedrohungen anzuführen, die Desinformation, KI, Deepfakes und andere aufkommende Technologien für unsere Demokratie und Wahlen darstellen. Die Öffentlichkeit lechzt nach diesen Lösungen. In Umfrage vom Berkeley IGS vom November 2023841 Prozent der kalifornischen Wähler gaben an, sie seien besorgt über digitale Bedrohungen für Wahlen und 731 Prozent meinten, sie seien der Meinung, die Landesregierung habe die „Verantwortung“, Maßnahmen zu ergreifen. Diese Zustimmung findet sich bei Wählern aller Rassen, Altersgruppen, Geschlechter, Regionen und politischen Parteien.

Die Vorschläge von CITED basieren auf Forschung und Vordenkertum von Titanen in den Bereichen Technologie, Recht, öffentliche Ordnung, Bürgerrechte, bürgerschaftliches Engagement und Wissenschaft, und beeinflusst von Erfolgen und neuen Ideen der Europäischen Union, des Weißen Hauses, des Kongresses und der Bundesstaaten im ganzen Land. Unabhängig von der Industrie und mit überparteilicher Führung ist die Beratung von CITED frei von privaten Agenden und Parteilichkeit. 

In its first year, CITED has cemented itself as Sacramento’s go-to source of independent, unbiased policy expertise where technology issues impact democracy and voters. In addition to advising key decision-makers, and in the face of congressional inaction, CITED advanced its own legislative agenda.

California Common Cause und CITED danken den Abgeordneten Buffy Wicks, Gail Pellerin, Marc Berman und Senator Steve Padilla für ihre Führung und Partnerschaft in der Legislaturperiode 2024.