Zwei Gesetzesentwürfe aus dem Gesetzespaket von CITED werden von der kalifornischen Versammlung und dem Senat verabschiedet; generatives KI-System, das für Material über sexuellen Kindesmissbrauch verwendet wurde, wird nach CITED-Untersuchung entfernt

SACRAMENTO – Diese Woche hat ein Gesetzentwurf zur Bekämpfung der Bedrohung unserer Wahlen durch KI-gestützte Desinformation die letzte große Hürde im kalifornischen Landtag genommen. Die Rechnungen, gefördert durch die California Initiative for Technology and Democracy (Zitiert), ein Projekt von California Common Cause, wurde im Senat und im Repräsentantenhaus verabschiedet und liegt nun auf dem Schreibtisch von Gouverneur Newsom, um bis Ende September in Kraft gesetzt zu werden.

„Wenn diese Gesetzesentwürfe vom Gouverneur unterzeichnet werden, wird Kalifornien die bislang energischsten Schritte in den USA unternommen haben, um den Gefahren zu begegnen, die KI und Desinformation für unsere Wahlen darstellen“, sagte Jonathan Mehta Stein, Geschäftsführer von California Common Cause und Mitbegründer von CITED„Wir können es uns nicht leisten, auf eine weitere Wahl oder Legislaturperiode zu warten, um Maßnahmen zu ergreifen. Die Gesetzgebung von CITED kann dazu beitragen, den Weg für Reformen in anderen Staaten und im Kongress auf nationaler Ebene zu ebnen.“

Das Gesetzespaket soll dazu beitragen, die Gefahren von Desinformation, die durch KI und soziale Medien verstärkt werden, einzudämmen, ohne Innovation oder Meinungsfreiheit zu unterdrücken. Die beiden CITED-Gesetze, die jetzt auf dem Schreibtisch des Gouverneurs liegen, sind:

• AB 2839, von Abgeordneter Gail Pellerin. Verhindert, dass irreführende Deepfakes in Wahlkampfanzeigen und Wahlkommunikation kurz vor dem Wahltag verwendet werden, schützt Kandidaten und Wahlbeamte und respektiert gleichzeitig den Ersten Verfassungszusatz. Dieses Gesetz hätte sich mit Elon Musks Weitergabe eines irreführender Deepfake Video von Vizepräsidentin Kamala Harris, das auf X in einer Woche 150 Millionen Mal angesehen wurde. 
• AB 2655, von Abgeordnetem Marc Berman. Bekämpft Online-Desinformation bei unseren Wahlen, indem es von Social-Media-Plattformen verlangt, generative KI-Deepfakes, die Wähler täuschen können, als digitale oder gefälschte Inhalte zu kennzeichnen, und indem es die Veröffentlichung der schädlichsten dieser Inhalte kurz vor dem Wahltag verbietet. 

„Im Inland und auf der ganzen Welt sehen wir bereits, wie durch KI unterstützte Desinformation die Integrität von Wahlprozessen untergraben und Wählern schaden kann“, sagte Drew Liebert, Direktor von CITED. „Die Gesetzesentwürfe von CITED gehören zu den differenziertesten, ausgewogensten und zukunftsweisendsten Versuchen in den Vereinigten Staaten, unsere Demokratie vor den wachsenden digitalen Bedrohungen zu schützen. Wir hoffen, dass der Gouverneur Kaliforniens Rolle als Vorreiter der Demokratie im Land erhält und diese mutigen Maßnahmen zu Vorbildern für die Nation macht.“

Darüber hinaus wurde diese Woche ein beliebtes KI-Deepfake-Tool, das zur Generierung von Material über sexuellen Kindesmissbrauch und nicht einvernehmlichen intimen Bildern (auch bekannt als Kinderpornografie und Deepfake-Pornografie) verwendet wurde, zurückgerufen, nachdem Anfragen von CITEDs Senior Policy Advisor, David Evan HarrisDies schafft einen Präzedenzfall dafür, dass KI-Unternehmen wird wahrscheinlich einer verstärkten Prüfung unterzogen sollten sie weiterhin unverantwortliche und unethische Produkte auf den Markt bringen.

California Common Cause hat im November 2023 die California Initiative for Technology and Democracy (CITED) ins Leben gerufen, um Kalifornien dabei zu unterstützen, den Kampf um Lösungen für die Bedrohungen anzuführen, die Desinformation, KI, Deepfakes und andere aufkommende Technologien für unsere Demokratie und Wahlen darstellen. Die Öffentlichkeit lechzt nach diesen Lösungen. In Umfrage vom Berkeley IGS vom November 2023841 Prozent der kalifornischen Wähler gaben an, sie seien besorgt über digitale Bedrohungen für Wahlen und 731 Prozent meinten, sie seien der Meinung, die Landesregierung habe die „Verantwortung“, Maßnahmen zu ergreifen. Diese Zustimmung findet sich bei Wählern aller Rassen, Altersgruppen, Geschlechter, Regionen und politischen Parteien.

Die Vorschläge von CITED basieren auf Forschung und Vordenkertum von Titanen in den Bereichen Technologie, Recht, öffentliche Ordnung, Bürgerrechte, bürgerschaftliches Engagement und Wissenschaft, und beeinflusst von Erfolgen und neuen Ideen der Europäischen Union, des Weißen Hauses, des Kongresses und der Bundesstaaten im ganzen Land. Unabhängig von der Industrie und mit überparteilicher Führung ist die Beratung von CITED frei von privaten Agenden und Parteilichkeit. 

In seinem ersten Jahr hat sich CITED als Sacramentos erste Anlaufstelle für unabhängige, unvoreingenommene politische Expertise etabliert, wenn es darum geht, wie sich Technologiefragen auf Demokratie und Wähler auswirken. Neben der Beratung wichtiger Entscheidungsträger und angesichts der Untätigkeit des Kongresses hat CITED seine eigene Gesetzgebungsagenda vorangetrieben.

California Common Cause und CITED danken den Abgeordneten Buffy Wicks, Gail Pellerin, Marc Berman und Senator Steve Padilla für ihre Führung und Partnerschaft in der Legislaturperiode 2024.