California Initiative for Technology and Democracy (CITED) Anmerkungen zum Ersten Verfassungszusatz

Gouverneur Newsom hat kürzlich unterzeichnete zwei Gesetzesentwürfe Auseinandersetzung mit der Bedrohung, die durch KI-gestützte Desinformation für unsere Wahlen entsteht.

AB 2839 Und AB 2655 sind eng zugeschnitten und sorgfältig ausgearbeitet, um die schlimmsten Desinformationskampagnen im Zusammenhang mit der Wahl anzugehen, ohne die freie Meinungsäußerung zu beeinträchtigen, unsere politische Diskussion zu behindern oder unbeabsichtigt harmlose Inhalte zu kompromittieren. 

AB 2839

Die Begrenztheit von AB 2839

AB 2839verbietet mit sofortiger Wirkung politische Deepfakes, die einen Kandidaten, einen gewählten Amtsträger oder Wahlbeamten so darstellen, als würden sie etwas tun oder sagen, was sie nicht getan oder gesagt haben, oder Wahlgeräte und Wahllokale in wesentlich falscher Weise angeben. Dies geschieht auf eine Weise, die genau auf die schlimmste Form der Wahldesinformation abzielt.

• Es gilt nur für „wesentlich irreführende“ Deepfake-Inhalte, d. h. es gilt nur für Inhalte, die eine vernünftige Person täuschen würden. Dinge, die offensichtlich gefälscht, witzig, cartoonhaft oder satirisch sind, werden von dem Gesetzentwurf nicht berührt. (§ 20012(b)(1))
• Es erfordert „Böswilligkeit“ seitens der Person, die den materiell irreführenden Deepfake-Inhalt verbreitet, was bedeutet, dass es nur dann anwendbar ist, wenn die Person weiß, dass der Inhalt falsch ist, oder mit rücksichtsloser Missachtung der Wahrheit handelt. (§ 20012(b)(1))
• Parodien oder satirische politische Deepfakes, die so hyperrealistisch sind, dass sie einen vernünftigen Menschen für echt halten würden, müssen den Betrachter darüber informieren, dass der Inhalt digital erstellt oder manipuliert wurde. (§ 20012(b)(3))
• Sie gilt nur innerhalb von 120 Tagen vor einer Wahl und, für Deepfakes, die Wahlbeamte oder Wahlsysteme betreffen, innerhalb von 60 Tagen nach der Wahl. Sie gilt nur, wenn das Risiko von Wahldesinformation am höchsten ist, nicht immer. (§ 20012(c))

Nur schlechte Schauspieler haben Grund zur Sorge

Zusamenfassend, AB 2839 verbietet nur politische Deepfakes, die täuschen sollen und so ausgefeilt sind, dass sie eine vernünftige Person täuschen WÜRDEN. (Der Standard der vernünftigen Person ist im Gesetz üblich und Gerichte haben keine Schwierigkeiten, ihn in verschiedenen Bereichen anzuwenden.) Sofern ein Social-Media-Nutzer oder politischer Akteur nicht versucht, seine amerikanischen Mitbürger zu belügen und zu täuschen und eine Wahl betrügerisch zu untergraben, AB 2839 betrifft sie nicht.

Was würde AB 2839 Bewerben bei, in realen Begriffen?

Ein Beispiel für einen politischen Deepfake, auf den sich das Gesetz beziehen würde, ist der „Joe Biden“-Robocall, der vor den Vorwahlen in New Hampshire an die Demokraten ging und sie aufforderte, NICHT zu wählen. Der gefälschte Robocall sollte Wähler täuschen und war so ausgefeilt, dass er fast jeden täuschen konnte. 

Welche Rechtsmittel gibt es laut Gesetz?

AB 2839 ermöglicht es einem Empfänger oder Opfer eines Deepfakes, der gegen das Gesetz verstößt, ein beschleunigtes Verfahren zu nutzen, um die Verbreitung der Desinformation durch einstweilige Verfügungen schnell zu stoppen und gegebenenfalls Schadensersatz zu fordern. Es besteht keine strafrechtliche Haftung.

AB 2655

Die Begrenztheit von AB 2655

AB 2655, das am 1. Januar 2025 in Kraft tritt, soll für eine streng begrenzte Zeit vor und nach den Wahlen verhindern, online Verbreitung der schlimmsten Deepfakes und Desinformationen mit der böswilligen Absicht, Wähler von der Stimmabgabe abzuhalten oder sie aufgrund betrügerischer Inhalte dazu zu bringen, irrtümlich ihre Stimme abzugeben. 

Dies geschieht, indem große Online-Plattformen verpflichtet werden, solche Inhalte nach entsprechender Benachrichtigung zu entfernen. Inhalte, die verboten werden können, sind auf Deepfakes von Kandidaten, Wahlbeamten und gewählten Amtsträgern beschränkt, die Wähler betrügen sollen. Der Gesetzentwurf verlangt auch, dass andere gefälschte Online-Inhalte im Zusammenhang mit Wahlen als Fälschungen gekennzeichnet werden müssen, wiederum nur für eine begrenzte Zeit. 

• Es gilt nur für „wesentlich irreführende“ Deepfake-Inhalte, d. h. es gilt nur für Inhalte, die eine vernünftige Person täuschen würden. Dinge, die offensichtlich gefälscht, witzig, cartoonhaft oder satirisch sind, werden von dem Gesetzentwurf nicht berührt. (§ 20513(a))
• Voraussetzung ist, dass der Inhalt in böser Absicht verbreitet wurde. (§§ 20513(a)(2)(C), 20514(a)(3)).
• Sie gilt nur innerhalb von 120 Tagen vor einer Wahl und, für Deepfakes, die Wahlbeamte betreffen, innerhalb von 60 Tagen nach der Wahl. Sie gilt nur, wenn das Risiko von Wahldesinformation am höchsten ist, nicht immer. (§ 20513(e))
• Parodien und Satire sind von diesem Gesetz ausdrücklich ausgenommen. (§ 20519(c))

Was würde AB 2655 Bewerben bei, in realen Begriffen?

Ein Beispiel für einen politischen Deepfake, auf den der Gesetzentwurf Anwendung finden würde, wäre ein Tik-Tok-Post, der einen Deepfake eines örtlichen Bürgermeisters enthält, der „auf Band dabei erwischt wurde“, wie er kurz vor dem Wahltag Bestechungsgelder annahm, oder ein X-Post, der einen Deepfake eines Bezirkswahlbeamten enthält, der sagt, dass alle Wahlmaschinen kurz nach dem Wahltag gehackt worden seien. 

Welche Rechtsmittel gibt es laut Gesetz?

AB 2655 ist im Eilverfahren durchsetzbar, um die Verbreitung der Desinformation durch einstweilige Verfügungen schnell zu stoppen. Es besteht keine straf- oder zivilrechtliche Haftung.