Sacramento — Elon Musk et son entreprise X ont intenté une action en justice pour empêcher la mise en œuvre de l'une des lois phares de Californie contre la désinformation. L'entreprise conteste la constitutionnalité de l'AB 2655, qui rend les réseaux sociaux responsables de la désinformation liée aux élections qui prolifère sur leurs plateformes. 

La loi, parrainée par la California Initiative for Technology and Democracy (CITÉ), un projet de California Common Cause, représente certaines des mesures les plus énergiques prises partout dans le pays pour faire face aux dangers que l'IA et la désinformation représentent pour nos élections. 

« Notre démocratie – et le droit des citoyens à des informations exactes sur nos élections – ne sont pas négociables », a déclaré Jonathan Mehta Stein, directeur exécutif de California Common Cause« Nous ne pouvons pas permettre aux oligarques milliardaires de saper l’intégrité de nos institutions gouvernementales pour leurs propres intérêts financiers et politiques. »

L'AB 2655, rédigé par le député Marc Berman, lutte contre la désinformation en ligne lors de nos élections en imposant aux grandes plateformes en ligne des exigences inédites au niveau national pour supprimer ou étiqueter les deepfakes d'IA trompeurs liés aux élections pendant des périodes spécifiées, et les oblige à fournir des mécanismes pour signaler ce type de contenu. Il autorise également les candidats, les élus, les responsables électoraux, le procureur général et un procureur de district ou un procureur municipal à demander une injonction contre une grande plateforme en ligne pour non-respect du projet de loi.

L'issue de cette affaire aura des répercussions à l'échelle nationale. La Californie abrite les plus grandes et les plus puissantes plateformes de médias sociaux et entreprises d'IA au monde. Si l'État a énormément bénéficié de la contribution de ces entreprises à l'économie de l'innovation, la technologie reste l'une des dernières industries non réglementées. 

« Il n’est pas surprenant qu’une entreprise comme X cherche à bloquer la première loi qui obligerait son immense pouvoir à rendre des comptes », a ajouté Pierre. « Plus tôt cette année, Elon Musk a partagé une deepfake trompeur « La vidéo de la vice-présidente Kamala Harris, visionnée 150 millions de fois en une semaine sur X, n’est qu’une goutte d’eau dans une mer de désinformation qui ne cesse de croître. C’est pourquoi la seule solution durable est d’adopter des réglementations de bon sens pour garantir que notre démocratie soit à l’abri de la désinformation générée par l’IA. »

Les deepfakes ont déjà déstabilisé les élections nationales en Argentine, en Inde, en Slovaquie, à Taiwan, au Bangladesh et, plus récemment, l’élection présidentielle américaine de 2024. Alors que ce problème atteint son paroxysme, de nombreuses plateformes technologiques et de médias sociaux ont réduit leurs investissements dans leurs équipes de confiance et de sécurité et se sont déchargées de toute responsabilité pour y remédier. Les électeurs doivent donc ramasser les morceaux, sans savoir à quelles images, à quel son et à quelle vidéo ils peuvent faire confiance.

Common Cause a identifié pour la première fois il y a des années les deepfakes et la désinformation basée sur l'IA comme une menace sérieuse pour notre démocratie, en lançant le Initiative californienne pour la technologie et la démocratie (CITED) en novembre 2023 pour aider la Californie à mener la lutte pour des solutions aux menaces que la désinformation, l'IA, les deepfakes et d'autres technologies émergentes représentent pour notre démocratie et nos élections. 

Le Congrès étant désespérément paralysé, CITED a intensifié ses efforts et s'est efforcé d'adopter les lois les plus strictes du pays pour résoudre le problème de la désinformation de l'IA via la législature californienne, AB 2655 et AB 2839, car tout comme pour les normes climatiques et les émissions automobiles, l'adoption d'une telle loi en Californie peut produire des résultats à l'échelle nationale.