CITED 的 2024 年立法方案将有助于规范人工智能、深度伪造和虚假信息对我们的民主构成的危险
加利福尼亚州萨克拉门托 — 周三， 加州科技与民主倡议 （CITED）是加州共同事业的一个项目， 宣布 2024 年立法方案以及主要立法者。这些民主党领导人共同致力于迈出第一步，切实保护加州的民主和选民免受当前最大的威胁之一：生成式人工智能和深度伪造带来的虚假信息。
“人工智能和虚假信息对我们的民主构成了生存威胁，我们已经到了无可挽回的地步。现在是采取行动的时候了，” 加州共同事业执行董事乔纳森·梅塔·斯坦“CITED 和我们的立法伙伴采用公正、独立、跨学科的方法，制定了一项立法议程，该议程直指我们一生中正在形成的重大问题之一，同时维护言论自由并尊重技术创新。”
自 2020 年以来，选民们发现虚假信息比以往任何时候都更加污染我们的政治，而现在，随着人工智能生成的深度伪造成为我们信息生态系统的常规组成部分，这个问题正在迅速加剧。深度伪造已经破坏了阿根廷、斯洛伐克、台湾、孟加拉国的全国选举和美国总统初选。就在这一问题达到顶峰之际，许多科技和社交媒体平台正在减少对信任和安全团队的投资，并逃避解决这一问题的任何责任。选民现在只能自己收拾残局，不知道他们可以信任哪些图像、音频和视频。
CITED 的工作受到了以下研究和思想领导力的影响 科技、法律、公共政策、民权、公民参与和学术界的巨头并受到欧盟、白宫、国会和全国各州的成功经验和新兴理念的影响。CITED 独立于行业之外，拥有两党领导，提供不受私人议程和党派偏见影响的分析和指导。
CITED 的 2024 年立法方案包括：
- 参议员史蒂夫·帕迪拉 (Steve Padilla) 提出的 SB 1228。为社交媒体用户提供有关匿名巨魔和虚假信息传播者的更多信息，这些巨魔和虚假信息传播者拥有最多的追随者，并且最有能力让虚假信息广泛传播。
- AB 2839，由议员 Gail Pellerin 提出。在选举日前夕，禁止在竞选广告和独立支出中使用误导性深度伪造，保护候选人和选举官员。
- AB 2655，由议员 Marc Berman 提出。通过标记生成式 AI 深度伪造，并在选举日临近时限制其中最有害和最明显的内容，打击有关选举的在线虚假信息。
以下是简报会上的部分引言（按发言者顺序排列）：
他说：“外国对手希望利用新的强大技术来误导和分裂美国。” 参议员史蒂夫·帕迪拉“不良分子和外国机器人现在能够制作虚假视频和图片，只需按一下按钮，就能向数百万人传播谎言。我们需要确保我们的内容平台能够抵御我们知道可能发生的恶意干扰。验证拥有大量粉丝的账户身份，可以让我们清除那些试图破坏我们信息流的人。”
“总有一些坏人试图破坏选举。我记得在一次选举中，有人分发门把手，告诉人们错误的投票地点，以扰乱选举结果。但现在，生成式人工智能的广泛使用使这种破坏变得更加复杂，也更容易传播，” 议员盖尔·佩勒林说道。 “向选民提供正确的信息对于民主的正常运转至关重要，当这些深度伪造内容在网上传播，故意误导选民时，就很难确保选举的公正性。”
“AB 2655 将确保网络平台限制与选举相关的欺骗性深度伪造的传播，这些伪造行为旨在阻止选民投票或基于欺诈性内容欺骗选民，” 议员 Marc Berman。“Deepfakes 是那些想要发动虚假宣传的人手中一种强大而危险的工具，它们有可能通过将虚假或从未发生过的言论和行为归咎于某人而对我们的民主造成严重破坏。人工智能的进步使几乎任何人都可以轻松生成这种欺骗性内容，因此，在它有机会欺骗选民并破坏我们的民主之前，识别和限制其传播就变得更加重要。”
