Законодательный пакет CITED 2024 года поможет регулировать опасности, которые ИИ, дипфейки и дезинформация представляют для нашей демократии

САКРАМЕНТО, Калифорния — В среду, Калифорнийская инициатива по технологиям и демократии (CITED), проект Калифорнийского общего дела, объявил его законодательный пакет 2024 года вместе с ключевыми законодателями. Вместе эти лидеры демократии намерены предпринять первые шаги в осмысленной защите демократии и избирателей Калифорнии от одной из ее нынешних величайших угроз: дезинформации, усиленной генеративным ИИ и дипфейками.

«ИИ и дезинформация представляют собой экзистенциальную угрозу нашей демократии, и мы достигли точки невозврата. Сейчас самое время действовать», — сказал Джонатан Мехта Штайн, исполнительный директор California Common Cause. «Используя беспристрастный, независимый, междисциплинарный подход, CITED и наши законодательные партнеры разработали законодательную повестку дня, которая затрагивает суть того, что становится одной из величайших проблем нашей жизни, при этом поддерживая свободу слова и уважая технологические инновации».

С 2020 года избиратели стали свидетелями того, как дезинформация загрязняет нашу политику больше, чем когда-либо, и теперь, когда созданные ИИ дипфейки становятся обычной частью наших информационных экосистем, проблема стремительно обостряется. Дипфейки уже дестабилизировали национальные выборы в Аргентине, Словакии, Тайване, Бангладеш и президентские праймериз в США. Как раз в тот момент, когда эта проблема достигает пика, многие технологические и социальные медиа-платформы сокращают инвестиции в свои команды доверия и безопасности и уходят от любой ответственности за ее решение. Теперь избирателям приходится собирать осколки, не зная, каким изображениям, аудио и видео они могут доверять.  

Работа CITED основана на исследованиях и передовых идеях титаны в области технологий, права, государственной политики, гражданских прав, гражданской активности и академических кругов, и под влиянием успехов и новых идей Европейского Союза, Белого дома, Конгресса и штатов по всей стране. Независимый от промышленности и с двухпартийным руководством, CITED предоставляет анализ и руководство, оторванные от частных планов и партийности. 

Законодательный пакет CITED 2024 года включает:

• SB 1228 от сенатора Стива Падиллы. Предоставляет пользователям социальных сетей больше информации об анонимных троллях и распространителях дезинформации с наибольшим количеством подписчиков и наибольшей властью, чтобы сделать дезинформацию вирусной.
• AB 2839, от члена Ассамблеи Гейл Пеллерин. Устраняет вводящие в заблуждение дипфейки из предвыборной рекламы и независимых расходов вблизи дня выборов, защищая кандидатов и должностных лиц, ответственных за выборы.
• AB 2655, от члена Ассамблеи Марка Бермана. Борется с онлайн-дезинформацией о выборах, маркируя генеративные ИИ-дипфейки и ограничивая наиболее пагубные и очевидные из них ближе к дню выборов. 

Ниже приведены избранные цитаты из брифинга (в порядке выступления докладчиков):

«Иностранные противники надеются использовать новые и мощные технологии, чтобы дезинформировать и разделить Америку в этом избирательном цикле», — сказал Сенатор Стив Падилла. «Злоумышленники и иностранные боты теперь имеют возможность создавать поддельные видео и изображения и распространять ложь среди миллионов одним нажатием кнопки. Нам нужно обеспечить защиту наших контент-платформ от вредоносного вмешательства, которое, как мы знаем, возможно. Проверка личности учетных записей с большим количеством подписчиков позволяет нам отсеивать тех, кто пытается испортить наш информационный поток».

«Всегда были злодеи, которые пытались посеять хаос на выборах. Я помню выборы, где люди раздавали дверные вешалки, которые указывали людям неправильное место для голосования, чтобы нарушить результаты выборов. Но теперь широкий доступ к генеративному ИИ делает этот тип ущерба гораздо более изощренным и легким для распространения», сказала член Ассамблеи Гейл Пеллерин. «Предоставление избирателям правильной информации имеет решающее значение для функционирования демократии, и становится очень сложно обеспечить честность выборов, когда в Интернете распространяются эти дипфейки с целью намеренного введения избирателей в заблуждение».

«AB 2655 гарантирует, что онлайн-платформы ограничат распространение вводящих в заблуждение фейков, связанных с выборами, призванных помешать избирателям проголосовать или обмануть их с помощью мошеннического контента», — говорится в заявлении. Член Ассамблеи Марк Берман. «Глубокие фейки — это мощный и опасный инструмент в арсенале тех, кто хочет вести кампании по дезинформации, и они могут посеять хаос в нашей демократии, приписывая человеку слова и поведение, которые являются ложными или никогда не существовали. Достижения в области ИИ позволяют практически любому человеку легко создавать этот обманчивый контент, что делает еще более важным, чтобы мы идентифицировали и ограничили его распространение, прежде чем он получит шанс обмануть избирателей и подорвать нашу демократию». 

СМОТРЕТЬ: Лидеры демократии представляют решения для новых цифровых угроз