Deux projets de loi du CITED sont adoptés par l'Assemblée et le Sénat de Californie ; un système d'IA générative utilisé pour le matériel d'abus sexuel sur enfant a été retiré après l'enquête du CITED

SACRAMENTO – Cette semaine, la législation visant à lutter contre la menace que représente la désinformation générée par l’IA pour nos élections a franchi le dernier obstacle majeur de l’Assemblée législative de l’État de Californie. Les factures, parrainé par la California Initiative for Technology and Democracy (CITÉ), un projet de California Common Cause, a été adopté par le Sénat et l'Assemblée et se dirige maintenant vers le bureau du gouverneur Newsom pour être promulgué d'ici la fin septembre.

« Si ces projets de loi sont signés par le gouverneur, la Californie aura pris les mesures les plus énergiques aux États-Unis à ce jour pour faire face aux dangers que l’IA et la désinformation représentent pour nos élections », a déclaré Jonathan Mehta Stein, directeur exécutif de California Common Cause et cofondateur de CITED« Nous ne pouvons pas nous permettre d’attendre une nouvelle élection ou un nouveau cycle législatif pour agir. La législation de CITED peut aider à ouvrir la voie à des réformes dans d’autres États et au niveau national au Congrès. »

Le projet de loi vise à aider à réguler les dangers de la désinformation alimentée par l'IA et les médias sociaux sans étouffer l'innovation ou la liberté d'expression. Les deux projets de loi CITÉS qui se trouvent actuellement sur le bureau du gouverneur sont les suivants :

• AB 2839, de la députée Gail Pellerin. Empêche les deepfakes trompeurs des publicités de campagne et des communications électorales à l'approche du jour du scrutin, protégeant ainsi les candidats et les responsables électoraux tout en respectant le premier amendement. Cette loi aurait permis de remédier au partage d'un deepfake trompeur vidéo de la vice-présidente Kamala Harris, qui a été visionnée 150 millions de fois en une semaine sur X. 
• AB 2655, du député Marc Berman. Combat la désinformation en ligne lors de nos élections en exigeant que les plateformes de médias sociaux étiquettent les deepfakes génératifs d’IA qui peuvent tromper les électeurs comme du contenu numérique ou faux, et en interdisant la publication des plus pernicieux d’entre eux à l’approche du jour du scrutin. 

« Chez nous et dans le monde entier, nous constatons déjà comment la désinformation alimentée par l’IA peut porter atteinte à l’intégrité des processus électoraux et nuire aux électeurs », a déclaré Drew Liebert, directeur de CITED« Les projets de loi de CITED représentent certaines des tentatives les plus nuancées, équilibrées et avant-gardistes aux États-Unis visant à protéger notre démocratie des menaces numériques croissantes. Nous espérons que le gouverneur maintiendra la Californie comme chef de file de la démocratie dans le pays et fera de ces mesures audacieuses des modèles pour la nation. »

De plus, cette semaine, un outil d'IA deepfake populaire utilisé pour générer du matériel d'abus sexuel sur enfant et des images intimes non consensuelles (également connu sous le nom de pornographie infantile et de pornographie deepfake) a été rappelé après demandes de renseignements du conseiller politique principal de CITED, David Evan HarrisCela crée un précédent que les entreprises d'IA fera probablement l'objet d'un examen plus approfondi s’ils continuent à commercialiser des produits irresponsables et contraires à l’éthique.

California Common Cause a lancé la California Initiative for Technology and Democracy (CITED) en novembre 2023 pour aider la Californie à mener la lutte pour trouver des solutions aux menaces que la désinformation, l'IA, les deepfakes et d'autres technologies émergentes représentent pour notre démocratie et nos élections. Le public a soif de ces solutions. Sondage de novembre 2023 de Berkeley IGS841 électeurs californiens sur 3 ont déclaré être préoccupés par les menaces numériques qui pèsent sur les élections et 731 électeurs sur 3 ont déclaré qu'ils estimaient que le gouvernement de l'État avait la « responsabilité » d'agir. Ce soutien s'étend aux électeurs de toutes les races, de tous les âges, de tous les sexes, de toutes les régions et de tous les partis politiques.

Les propositions de CITED ont été éclairées par la recherche et le leadership éclairé de des titans de la technologie, du droit, des politiques publiques, des droits civiques, de l'engagement civique et du monde universitaire, et influencé par les succès et les idées émergentes de l'Union européenne, de la Maison Blanche, du Congrès et des États du pays. Indépendant de l'industrie et avec un leadership bipartisan, les conseils du CITED sont déconnectés des agendas privés et de la partisanerie. 

Au cours de sa première année d'existence, le CITED s'est imposé comme la source incontournable d'expertise politique indépendante et impartiale de Sacramento lorsque les problèmes technologiques ont un impact sur la démocratie et les électeurs. En plus de conseiller les principaux décideurs, et face à l'inaction du Congrès, le CITED a fait progresser son propre programme législatif.

California Common Cause et CITED remercient la députée Buffy Wicks, la députée Gail Pellerin, le député Marc Berman et le sénateur Steve Padilla pour leur leadership et leur partenariat lors de la session législative de 2024.