Das Gesetzespaket von CITED für 2024 würde dazu beitragen, die Gefahren zu regulieren, die KI, Deepfakes und Desinformation für unsere Demokratie darstellen

SACRAMENTO, Kalifornien — Am Mittwoch, der Kalifornische Initiative für Technologie und Demokratie (CITED), ein Projekt von California Common Cause, angekündigt sein Gesetzespaket für 2024 zusammen mit wichtigen Gesetzgebern. Gemeinsam wollen diese Demokratieführer die ersten Schritte unternehmen, um die Demokratie und die Wähler Kaliforniens wirksam vor einer ihrer derzeit größten Bedrohungen zu schützen: Desinformation, die durch generative KI und Deepfakes verstärkt wird.

„KI und Desinformation sind eine existenzielle Bedrohung für unsere Demokratie, und wir haben einen Punkt erreicht, von dem es kein Zurück mehr gibt. Jetzt ist es an der Zeit zu handeln“, sagte Jonathan Mehta Stein, Geschäftsführer von California Common Cause„Mit einem unvoreingenommenen, unabhängigen und interdisziplinären Ansatz haben CITED und unsere parlamentarischen Partner eine gesetzgeberische Agenda entwickelt, die den Kern dessen trifft, was sich zu einem der größten Probleme unserer Zeit entwickelt, und gleichzeitig die freie Meinungsäußerung aufrechterhält und technologische Innovationen respektiert.“

Seit 2020 erleben Wähler, wie Desinformation unsere Politik stärker verunreinigt als je zuvor. Und jetzt, da KI-generierte Deepfakes zu einem alltäglichen Bestandteil unserer Informationsökosysteme werden, verschärft sich das Problem rapide. Deepfakes haben bereits nationale Wahlen in Argentinien, der Slowakei, Taiwan, Bangladesch und die US-Präsidentschaftsvorwahlen destabilisiert. Gerade als dieses Problem seinen Höhepunkt erreicht, reduzieren viele Technologie- und Social-Media-Plattformen ihre Investitionen in ihre Vertrauens- und Sicherheitsteams und entziehen sich jeder Verantwortung, das Problem anzugehen. Die Wähler müssen nun die Scherben aufsammeln und wissen nicht, welchen Bildern, Audio- und Videodateien sie vertrauen können.  

Die Arbeit von CITED basiert auf Forschung und Vordenkertum von Titanen in den Bereichen Technologie, Recht, öffentliche Ordnung, Bürgerrechte, bürgerschaftliches Engagement und Wissenschaft, und beeinflusst von Erfolgen und neuen Ideen der Europäischen Union, des Weißen Hauses, des Kongresses und der Bundesstaaten im ganzen Land. Unabhängig von der Industrie und mit überparteilicher Führung bietet CITED Analysen und Beratung, die von privaten Agenden und Parteilichkeit getrennt sind. 

Das Legislativpaket von CITED für 2024 umfasst:

• SB 1228 von Senator Steve Padilla. Gibt Social-Media-Nutzern mehr Informationen über die anonymen Trolle und Desinformationsverbreiter mit der größten Fangemeinde und der größten Macht, Desinformation viral zu verbreiten.
• AB 2839 von Abgeordneter Gail Pellerin. Verhindert irreführende Deepfakes in Wahlkampfanzeigen und unabhängigen Ausgaben kurz vor dem Wahltag und schützt so Kandidaten und Wahlbeamte.
• AB 2655 von Abgeordnetem Marc Berman. Bekämpft Online-Desinformation zu Wahlen, indem generative KI-Deepfakes gekennzeichnet und die schädlichsten und offensichtlichsten davon kurz vor dem Wahltag eingeschränkt werden. 

Nachfolgend finden Sie ausgewählte Zitate aus dem Briefing in der Reihenfolge der Sprecher:

„Ausländische Gegner hoffen, neue und mächtige Technologien nutzen zu können, um Amerika in diesem Wahlzyklus zu desinformieren und zu spalten“, sagte Senator Steve Padilla„Böse Schauspieler und ausländische Bots haben jetzt die Möglichkeit, auf Knopfdruck gefälschte Videos und Bilder zu erstellen und Millionen von Menschen Lügen zu verbreiten. Wir müssen sicherstellen, dass unsere Content-Plattformen vor der Art böswilliger Manipulation geschützt sind, von der wir wissen, dass sie möglich ist. Durch die Überprüfung der Identitäten von Konten mit vielen Followern können wir diejenigen aussortieren, die versuchen, unseren Informationsfluss zu manipulieren.“

„Es hat schon immer böse Akteure gegeben, die versucht haben, Wahlen zu manipulieren. Ich erinnere mich an eine Wahl, bei der Leute Türhänger verteilten, auf denen die Leute den falschen Wahlort verrieten, um das Wahlergebnis zu manipulieren. Aber jetzt, durch den weit verbreiteten Zugang zu generativer KI, ist diese Art von Schaden viel raffinierter und leichter zu verbreiten“, sagte Abgeordnete Gail Pellerin. „Für eine funktionierende Demokratie ist es von entscheidender Bedeutung, den Wählern die richtigen Informationen zukommen zu lassen. Und wenn diese Deepfakes online verbreitet werden, um die Wähler absichtlich falsch zu informieren, wird es sehr schwierig, die Integrität der Wahl zu gewährleisten.“

„AB 2655 wird sicherstellen, dass Online-Plattformen die Verbreitung von wahlbezogenen, irreführenden Deepfakes einschränken, die darauf abzielen, Wähler von der Stimmabgabe abzuhalten oder sie aufgrund betrügerischer Inhalte zu täuschen“, sagte Abgeordneter Marc Berman„Deepfakes sind ein mächtiges und gefährliches Werkzeug im Arsenal derjenigen, die Desinformationskampagnen durchführen wollen, und sie haben das Potenzial, unsere Demokratie zu zerstören, indem sie einer Person Äußerungen und Verhaltensweisen zuschreiben, die falsch sind oder nie stattgefunden haben. Fortschritte in der KI machen es praktisch jedem leicht, diese irreführenden Inhalte zu erstellen. Umso wichtiger ist es, dass wir ihre Verbreitung identifizieren und einschränken, bevor sie die Chance haben, Wähler zu täuschen und unsere Demokratie zu untergraben.“ 

SEHEN SIE: Demokratieführer stellen Lösungen für neue digitale Bedrohungen vor