El paquete legislativo de 2024 de CITED ayudaría a regular los peligros que la IA, las falsificaciones profundas y la desinformación representan para nuestra democracia

SACRAMENTO, California — El miércoles, el Iniciativa de California para la Tecnología y la Democracia (CITED), un proyecto de California Common Cause, anunciado su paquete legislativo de 2024 junto con legisladores clave. Juntos, estos líderes de la democracia tienen como objetivo dar los primeros pasos para proteger de manera significativa la democracia y los votantes de California de una de sus mayores amenazas actuales: la desinformación potenciada por la inteligencia artificial generativa y las falsificaciones profundas.

“La inteligencia artificial y la desinformación son una amenaza existencial para nuestra democracia y hemos llegado a un punto sin retorno. Ahora es el momento de actuar”, afirmó Jonathan Mehta Stein, director ejecutivo de California Common Cause“Utilizando un enfoque imparcial, independiente e interdisciplinario, CITED y nuestros socios legislativos han desarrollado una agenda legislativa que llega al corazón de lo que se perfila como uno de los grandes problemas de nuestra vida, al tiempo que defiende la libertad de expresión y respeta la innovación tecnológica”.

Desde 2020, los votantes han visto cómo la desinformación contamina nuestra política más que nunca, y ahora que las deepfakes generadas por inteligencia artificial se han convertido en una parte habitual de nuestros ecosistemas de información, el problema se está intensificando rápidamente. Las deepfakes ya han desestabilizado las elecciones nacionales en Argentina, Eslovaquia, Taiwán, Bangladesh y las primarias presidenciales de Estados Unidos. Justo cuando este problema está llegando a su punto máximo, muchas plataformas tecnológicas y de redes sociales están reduciendo sus inversiones en sus equipos de confianza y seguridad y eludiendo cualquier responsabilidad de abordarlo. Los votantes ahora tienen que recoger los pedazos, sin saber en qué imágenes, audio y vídeo pueden confiar.  

El trabajo de CITED se ha basado en la investigación y el liderazgo intelectual de titanes en tecnología, derecho, políticas públicas, derechos civiles, compromiso cívico y academia, y se ve influenciado por los éxitos y las ideas emergentes de la Unión Europea, la Casa Blanca, el Congreso y los estados de todo el país. Independiente de la industria y con un liderazgo bipartidista, CITED ofrece análisis y orientación que no tienen en cuenta las agendas privadas ni el partidismo. 

El paquete legislativo 2024 de CITED incluye:

• SB 1228 del Senador Steve Padilla. Brinda a los usuarios de las redes sociales más información sobre los trolls anónimos y los propagadores de desinformación con mayor cantidad de seguidores y mayor poder para hacer que la desinformación se vuelva viral.
• AB 2839, de la asambleísta Gail Pellerin. Evita que los deepfakes engañosos se incluyan en los anuncios de campaña y los gastos independientes cerca del día de las elecciones, lo que protege a los candidatos y a los funcionarios electorales.
• AB 2655, del asambleísta Marc Berman. Combate la desinformación en línea sobre las elecciones etiquetando las falsificaciones generadas por inteligencia artificial y restringiendo las más perniciosas y obvias de ellas cerca del día de las elecciones. 

A continuación se presentan algunas citas seleccionadas de la sesión informativa, en orden de los oradores:

“Los adversarios extranjeros esperan aprovechar la tecnología nueva y poderosa para desinformar y dividir a Estados Unidos en este ciclo electoral”, dijo Senador Steve Padilla“Los actores maliciosos y los bots extranjeros ahora tienen la capacidad de crear videos e imágenes falsos y difundir mentiras a millones de personas con solo tocar un botón. Necesitamos asegurarnos de que nuestras plataformas de contenido estén protegidas contra el tipo de interferencia maliciosa que sabemos que es posible. Verificar las identidades de las cuentas con muchos seguidores nos permite eliminar a aquellas que buscan corromper nuestro flujo de información”.

“Siempre ha habido actores maliciosos que intentan causar estragos en las elecciones. Recuerdo una elección en la que la gente repartió carteles en las puertas que indicaban a la gente el lugar de votación equivocado para alterar el resultado de las elecciones. Pero ahora el acceso generalizado a la IA generativa está haciendo que ese tipo de daño sea mucho más sofisticado y más fácil de difundir”. dijo la asambleísta Gail Pellerin. “Hacer llegar la información correcta a los votantes es crucial para el funcionamiento de una democracia, y resulta muy difícil garantizar la integridad de las elecciones cuando se difunden en Internet estas falsificaciones para desinformar intencionalmente a los votantes”.

“La AB 2655 garantizará que las plataformas en línea restrinjan la propagación de deepfakes engañosos relacionados con las elecciones destinados a evitar que los votantes voten o engañarlos con contenido fraudulento”, dijo El asambleísta Marc Berman“Los deepfakes son una herramienta poderosa y peligrosa en el arsenal de quienes quieren llevar a cabo campañas de desinformación, y tienen el potencial de causar estragos en nuestra democracia al atribuir a una persona un discurso y una conducta que son falsos o que nunca ocurrieron. Los avances en inteligencia artificial hacen que sea fácil para prácticamente cualquier persona generar este contenido engañoso, por lo que es mucho más importante que identifiquemos y restrinjamos su propagación antes de que tenga la oportunidad de engañar a los votantes y socavar nuestra democracia”. 

VIDEO: Los líderes de la democracia presentan soluciones a las amenazas digitales emergentes