Le projet de loi 2024 de CITED contribuerait à réglementer les dangers que l'IA, les deepfakes et la désinformation représentent pour notre démocratie

SACRAMENTO, Californie — Mercredi, le Initiative californienne pour la technologie et la démocratie (CITED), un projet de California Common Cause, annoncé Le projet de loi 2024 a été élaboré aux côtés de législateurs clés. Ensemble, ces leaders de la démocratie souhaitent prendre les premières mesures pour protéger de manière significative la démocratie et les électeurs californiens contre l'une de ses plus grandes menaces actuelles : la désinformation alimentée par l'IA générative et les deepfakes.

« L’intelligence artificielle et la désinformation constituent une menace existentielle pour notre démocratie, et nous avons atteint un point de non-retour. Il est temps d’agir », a déclaré Jonathan Mehta Stein, directeur exécutif de California Common Cause« En utilisant une approche impartiale, indépendante et interdisciplinaire, CITED et nos partenaires législatifs ont élaboré un programme législatif qui s’attaque au cœur de ce qui s’annonce comme l’un des grands enjeux de notre époque, tout en préservant la liberté d’expression et en respectant l’innovation technologique. »

Depuis 2020, les électeurs ont vu la désinformation polluer notre politique plus que jamais, et maintenant que les deepfakes générés par l’IA font partie intégrante de nos écosystèmes d’information, le problème s’intensifie rapidement. Les deepfakes ont déjà déstabilisé les élections nationales en Argentine, en Slovaquie, à Taiwan, au Bangladesh et les primaires présidentielles américaines. Alors que ce problème atteint son apogée, de nombreuses plateformes technologiques et de médias sociaux réduisent leurs investissements dans leurs équipes de confiance et de sécurité et se dérobent à toute responsabilité pour y remédier. Les électeurs doivent désormais ramasser les morceaux, sans savoir à quelles images, à quel son et à quelle vidéo ils peuvent se fier.  

Le travail de CITED a été éclairé par la recherche et le leadership éclairé de des titans de la technologie, du droit, des politiques publiques, des droits civiques, de l'engagement civique et du monde universitaire, et influencé par les succès et les idées émergentes de l'Union européenne, de la Maison Blanche, du Congrès et des États du pays. Indépendant de l'industrie et avec un leadership bipartisan, CITED fournit des analyses et des conseils séparés des agendas privés et de la partisanerie. 

Le paquet législatif 2024 de CITED comprend :

• Le projet de loi SB 1228 du sénateur Steve Padilla fournit aux utilisateurs des réseaux sociaux davantage d'informations sur les trolls anonymes et les diffuseurs de désinformation qui ont le plus d'abonnés et le plus de pouvoir pour rendre la désinformation virale.
• AB 2839, de la députée Gail Pellerin. Cette loi interdit l'utilisation de deepfakes trompeurs dans les publicités de campagne et les dépenses indépendantes à l'approche du jour du scrutin, protégeant ainsi les candidats et les responsables électoraux.
• AB 2655, du député Marc Berman. Lutte contre la désinformation en ligne concernant les élections en étiquetant les deepfakes génératifs de l'IA et en limitant les plus pernicieux et les plus évidents d'entre eux à l'approche du jour du scrutin. 

Ci-dessous, une sélection de citations extraites du briefing, classées par ordre d'intervenants :

« Les adversaires étrangers espèrent exploiter de nouvelles et puissantes technologies pour désinformer et diviser l’Amérique au cours de ce cycle électoral », a déclaré Sénateur Steve Padilla« Les acteurs malveillants et les robots étrangers ont désormais la possibilité de créer de fausses vidéos et images et de propager des mensonges à des millions de personnes en appuyant simplement sur un bouton. Nous devons nous assurer que nos plateformes de contenu se protègent contre le type d’interférence malveillante que nous savons possible. La vérification de l’identité des comptes ayant un grand nombre d’abonnés nous permet d’éliminer ceux qui cherchent à corrompre notre flux d’informations. »

« Il y a toujours eu des acteurs malveillants qui ont tenté de perturber les élections. Je me souviens d’une élection où des gens avaient distribué des affichettes qui indiquaient aux gens le mauvais bureau de vote afin de perturber le résultat du scrutin. Mais aujourd’hui, l’accès généralisé à l’IA générative rend ce type de dégâts beaucoup plus sophistiqués et plus faciles à diffuser », a déclaré la députée Gail Pellerin. « Il est essentiel de fournir aux électeurs les bonnes informations pour le bon fonctionnement d’une démocratie. Il devient très difficile de garantir l’intégrité des élections lorsque ces deepfakes sont diffusés en ligne pour désinformer intentionnellement les électeurs. »

« L'AB 2655 garantira que les plateformes en ligne restreindront la diffusion de deepfakes trompeurs liés aux élections destinés à empêcher les électeurs de voter ou à les tromper sur la base de contenus frauduleux », a déclaré Le député Marc Berman« Les deepfakes sont un outil puissant et dangereux dans l’arsenal de ceux qui veulent mener des campagnes de désinformation, et ils ont le potentiel de faire des ravages dans notre démocratie en attribuant des propos et des comportements à une personne qui est fausse ou qui n’a jamais existé. Les progrès de l’intelligence artificielle permettent à pratiquement n’importe qui de générer facilement ce type de contenu trompeur, ce qui rend d’autant plus important que nous identifions et limitions sa diffusion avant qu’il n’ait la possibilité de tromper les électeurs et de porter atteinte à notre démocratie. » 

VIDÉO : Les dirigeants démocratiques présentent des solutions aux menaces numériques émergentes