CITED 法案包中的两项法案在加州众议院和参议院获得通过；用于儿童性虐待材料的生成式人工智能系统在 CITED 调查后被删除

萨克拉门托 – 本周，针对人工智能驱动的虚假信息对我们的选举构成的威胁的立法扫清了加州立法机构的最后一道重大障碍。 账单由加州科技与民主倡议组织赞助（引文)，这是加州共同事业组织的一项计划，已在参议院和议会获得通过，目前已送到州长纽森的办公桌上，将于 9 月底签署成为法律。

“如果这些法案得到州长的签署，加州将采取迄今为止美国最有力的措施，以应对人工智能和虚假信息对我们的选举构成的危险，” Jonathan Mehta Stein，加州共同事业执行董事兼 CITED 联合创始人“我们不能等到下一次选举或立法周期才采取行动。CITED 的立法可以帮助引领其他州和全国国会的改革。”

该立法方案旨在帮助规范人工智能和社交媒体助长虚假信息的危害，同时又不扼杀创新或言论自由。目前摆在州长办公桌上的两项 CITED 法案是：

• AB 2839，来自议员 Gail Pellerin. 在选举日前夕，禁止在竞选广告和选举通讯中使用误导性深度伪造内容，保护候选人和选举官员，同时尊重第一修正案。这项法律将解决伊隆·马斯克分享 误导性深度伪造 副总统卡马拉·哈里斯的视频在 X 上一周内被观看了 1.5 亿次。 
• AB 2655，来自议员 Marc Berman. 要求社交媒体平台将可能欺骗选民的生成性人工智能深度伪造内容标记为数字或虚假内容，并禁止在选举日附近发布最有害的内容，以打击选举中的网络虚假信息。 

“在国内和世界各地，我们已经看到人工智能驱动的虚假信息如何破坏选举过程的完整性并伤害选民，”他说。 Drew Liebert，CITED 主任。“CITED 的法案代表了美国最细致、最平衡、最具前瞻性的尝试，旨在保护我们的民主免受日益增长的数字威胁。我们希望州长能让加州继续成为全国民主的领导者，并使这些大胆的措施成为全国的典范。”

此外，本周，一款用于生成儿童性虐待材料和非自愿亲密图像（也称为儿童色情和深度伪造色情）的流行人工智能深度伪造工具被召回，原因是 CITED 高级政策顾问 David Evan Harris 的询问. 这开创了人工智能公司 可能会受到更严格的审查 他们是否应该继续发布不负责任和不道德的产品？

2023 年 11 月，加州共同事业发起了加州科技与民主倡议 (CITED)，旨在帮助加州领导解决虚假信息、人工智能、深度伪造和其他新兴技术对我们的民主和选举构成的威胁的斗争。公众渴望这些解决方案。在 2023 年 11 月伯克利 IGS 民意调查其中，84% 的加州选民表示他们担心数字威胁选举，73% 表示他们认为州政府有“责任”采取行动。这种支持来自所有种族、年龄、性别、地区和政党的选民。

CITED 的提案参考了以下机构的研究和思想领导力： 科技、法律、公共政策、民权、公民参与和学术界的巨头并受到欧盟、白宫、国会和全国各州的成功经验和新兴理念的影响。CITED 的指导方针独立于行业，由两党领导，不受私人议程和党派偏见的影响。 

在成立的第一年，CITED 就巩固了其作为萨克拉门托独立、公正政策专业知识的首选来源的地位，该机构致力于研究影响民主和选民的技术问题。除了为关键决策者提供建议外，面对国会的无所作为，CITED 还推进了自己的立法议程。

加州共同事业组织和 CITED 感谢众议员 Buffy Wicks、众议员 Gail Pellerin、众议员 Marc Berman 和参议员 Steve Padilla 在 2024 年立法会议上的领导和合作。