Sáng kiến Công nghệ và Dân chủ California (CITED) Ghi chú Tu chính án thứ nhất

Thống đốc Newsom gần đây đã ký hai văn bản luật giải quyết mối đe dọa mà thông tin sai lệch do AI gây ra đối với cuộc bầu cử của chúng ta.

AB 2839 Và AB 2655 được thiết kế chặt chẽ và cẩn thận để giải quyết thông tin sai lệch tồi tệ nhất về bầu cử mà không ảnh hưởng đến quyền tự do ngôn luận, cản trở cuộc thảo luận chính trị của chúng ta hoặc vô tình làm ảnh hưởng đến nội dung vô hại. 

AB 2839

Bản chất hạn chế của AB 2839

AB 2839, có hiệu lực ngay lập tức, cấm các deepfake chính trị mô tả một ứng cử viên, một viên chức được bầu hoặc viên chức bầu cử đang làm hoặc nói điều gì đó mà họ không làm hoặc không nói, hoặc chỉ định thiết bị bầu cử và địa điểm bỏ phiếu theo cách sai lệch về mặt vật chất. Nó thực hiện điều này theo cách chỉ nhắm vào thông tin sai lệch tồi tệ nhất về bầu cử.

• Chỉ áp dụng cho nội dung deepfake “lừa dối về mặt vật chất”, nghĩa là chỉ áp dụng cho nội dung có thể lừa dối một người bình thường. Những thứ rõ ràng là giả mạo, đùa cợt, hoạt hình hoặc châm biếm sẽ không bị dự luật này động chạm. (§ 20012(b)(1))
• Điều này đòi hỏi "ác ý" từ phía người phân phối nội dung deepfake mang tính lừa dối về mặt vật chất, nghĩa là điều này chỉ áp dụng nếu người đó biết nội dung là sai hoặc hành động bất chấp sự thật một cách liều lĩnh. (§ 20012(b)(1))
• Những video giả mạo chính trị châm biếm hoặc nhại lại quá thực tế đến mức khiến một người bình thường tin rằng chúng là sự thật phải thông báo cho người xem rằng nội dung đó được tạo ra hoặc chỉnh sửa kỹ thuật số. (§ 20012(b)(3))
• Nó chỉ áp dụng trong vòng 120 ngày trước cuộc bầu cử và, đối với những deepfake liên quan đến các quan chức bầu cử hoặc hệ thống bỏ phiếu, trong vòng 60 ngày sau cuộc bầu cử. Nó chỉ áp dụng khi rủi ro thông tin sai lệch về bầu cử là cao nhất, không phải lúc nào cũng vậy. (§ 20012(c))

Chỉ có những diễn viên xấu mới phải lo lắng

Nói tóm lại, AB 2839 chỉ cấm các deepfake chính trị có mục đích lừa dối và quá tinh vi đến mức CÓ THỂ lừa dối một người hợp lý. (Tiêu chuẩn về người hợp lý là phổ biến trong luật pháp và tòa án không gặp khó khăn gì khi áp dụng tiêu chuẩn này trong nhiều lĩnh vực khác nhau.) Trừ khi người dùng mạng xã hội hoặc chính trị gia đang cố gắng nói dối và lừa dối những người Mỹ đồng hương của họ và gian lận phá hoại một cuộc bầu cử, AB 2839 không ảnh hưởng đến họ.

Cái gì sẽ AB 2839 Áp dụng cho điều gì trong thực tế?

Một ví dụ về deepfake chính trị mà dự luật sẽ áp dụng là cuộc gọi tự động "Joe Biden" được gửi đến những người theo đảng Dân chủ ở New Hampshire trước cuộc bầu cử sơ bộ của tiểu bang đó, kêu gọi họ KHÔNG bỏ phiếu. Cuộc gọi tự động giả mạo này nhằm mục đích lừa dối cử tri và đủ tinh vi để có thể lừa dối hầu như bất kỳ ai. 

Biện pháp khắc phục trong luật là gì?

AB 2839 cho phép người nhận hoặc nạn nhân của deepfake vi phạm dự luật sử dụng quy trình nhanh để nhanh chóng ngăn chặn việc phát tán thông tin sai lệch thông qua biện pháp khắc phục bằng lệnh cấm và yêu cầu bồi thường thiệt hại khi thích hợp. Không có trách nhiệm hình sự.

AB 2655

Bản chất hạn chế của AB 2655

AB 2655, có hiệu lực từ ngày 1 tháng 1 năm 2025, nhằm ngăn chặn, trong một thời gian giới hạn nghiêm ngặt trước và sau cuộc bầu cử, trực tuyến sự phát tán các nội dung deepfake và thông tin sai lệch tệ hại nhất với mục đích xấu nhằm ngăn cản cử tri bỏ phiếu hoặc khiến họ bỏ phiếu sai dựa trên nội dung gian lận. 

Nó thực hiện điều này bằng cách yêu cầu các nền tảng trực tuyến lớn xóa nội dung như vậy khi được thông báo. Nội dung có thể bị cấm chỉ giới hạn ở các nội dung deepfake của ứng cử viên, quan chức bầu cử và quan chức được bầu nhằm mục đích lừa đảo cử tri. Dự luật cũng yêu cầu các nội dung trực tuyến giả mạo khác liên quan đến bầu cử phải được dán nhãn là giả mạo, một lần nữa chỉ trong thời gian giới hạn. 

• Nó chỉ áp dụng cho nội dung deepfake “lừa dối về mặt vật chất”, nghĩa là nó chỉ áp dụng cho nội dung có thể lừa dối một người hợp lý. Những thứ rõ ràng là giả mạo, đùa cợt, hoạt hình hoặc châm biếm sẽ không bị dự luật này động chạm. (§ 20513(a))
• Nó yêu cầu nội dung phải được phân phối với ác ý. (§§ 20513(a)(2)(C), 20514(a)(3))
• Nó chỉ áp dụng trong vòng 120 ngày trước cuộc bầu cử và, đối với những deepfake liên quan đến các quan chức bầu cử, trong vòng 60 ngày sau cuộc bầu cử. Nó chỉ áp dụng khi rủi ro thông tin sai lệch về bầu cử là cao nhất, không phải mọi lúc. (§ 20513(e))
• Sự nhại lại hoặc châm biếm được miễn trừ cụ thể khỏi luật này. (§ 20519(c))

Cái gì sẽ AB 2655 Áp dụng cho điều gì trong thực tế?

Một ví dụ về deepfake chính trị mà dự luật này áp dụng là bài đăng trên Tik Tok có chứa deepfake về một thị trưởng địa phương "bị ghi hình" nhận hối lộ ngay trước Ngày bầu cử, hoặc bài đăng trên X có chứa deepfake về một viên chức bầu cử của quận nói rằng tất cả máy bỏ phiếu của họ đã bị hack ngay sau Ngày bầu cử. 

Biện pháp khắc phục trong luật là gì?

AB 2655 có thể thực thi thông qua một quy trình nhanh chóng để nhanh chóng ngăn chặn sự lan truyền thông tin sai lệch thông qua biện pháp khắc phục bằng lệnh cấm. Không có trách nhiệm hình sự hoặc dân sự.