California Initiative for Technology and Democracy (CITED) First Amendment Notes

Gobernador Newsom kamakailan nilagdaan ang dalawang piraso ng batas pagtugon sa banta na dulot ng disinformation na pinapagana ng AI sa ating mga halalan.

AB 2839 at AB 2655 ay makitid na iniakma at maingat na ginawa upang matugunan ang pinakamasamang disinformation sa halalan nang hindi kinokompromiso ang malayang pananalita, hinahadlangan ang aming pampulitikang pag-uusap, o hindi sinasadyang ikompromiso ang hindi nakakapinsalang nilalaman. 

AB 2839

Ang Limitadong Kalikasan ng AB 2839

AB 2839, epektibo kaagad, ipinagbabawal ang mga political deepfakes na naglalarawan sa isang kandidato, isang halal na opisyal, o opisyal ng halalan bilang gumagawa o nagsasabi ng isang bagay na hindi nila ginawa o sinabi, o tinukoy na kagamitan sa halalan at mga site ng pagboto sa isang materyal na maling paraan. Ginagawa nito ito sa paraang tinatarget lamang ang pinakamasamang disinformation sa halalan.

• Nalalapat lang ito sa "materyal na mapanlinlang" na malalim na pekeng content, ibig sabihin, nalalapat lang ito sa content na manlinlang sa isang makatwirang tao. Ang mga bagay na halatang peke, jokey, cartoonish, o satirical ay hindi tinatablan ng panukalang batas. (§ 20012(b)(1))
• Nangangailangan ito ng "malisya" sa bahagi ng taong namamahagi ng materyal na mapanlinlang na deepfake na nilalaman, ibig sabihin, nalalapat lamang ito kung alam ng tao na mali ang nilalaman o kumilos nang walang ingat na pagwawalang-bahala sa katotohanan. (§ 20012(b)(1))
• Ang mga parody o satirical na political deepfakes na napaka-hyper-realistic na lolokohin nila ang isang makatwirang tao sa paniniwalang sila ay totoo ay dapat ipaalam sa manonood na ang nilalaman ay digitally na nilikha o manipulahin. (§ 20012(b)(3))
• Nalalapat lamang ito sa loob ng 120 araw bago ang isang halalan at, para sa mga malalim na pekeng iyon tungkol sa mga opisyal ng halalan o mga sistema ng pagboto, sa loob ng 60 araw pagkatapos ng halalan. Nalalapat lamang ito kapag ang panganib ng disinformation sa halalan ay pinakamataas, hindi sa lahat ng oras. (§ 20012(c))

Mga Masasamang Aktor Lang ang May Dapat Ipag-alala

Sa madaling salita, AB 2839 ipinagbabawal lamang ang mga political deepfakes na nilalayong manlinlang at napaka-sopistikado na LAYAG nila ang isang makatwirang tao. (Ang isang makatwirang pamantayan ng tao ay karaniwan sa batas at ang mga korte ay hindi nahihirapang ilapat ito sa iba't ibang lugar.) Maliban kung ang isang gumagamit ng social media o pulitikal na aktor ay nagtatangkang magsinungaling at manlinlang sa kanilang mga kapwa Amerikano at mapanlinlang na sirain ang isang halalan, AB 2839 hindi nakakaapekto sa kanila.

Ano ang Gusto AB 2839 Mag-apply sa, Sa Tunay na Tuntunin?

Isang halimbawa ng political deepfake kung saan ilalapat ang panukalang batas ay ang robocall na “Joe Biden” na napunta sa New Hampshire Democrats bago ang pangunahing halalan ng estadong iyon, na humihimok sa kanila na HUWAG bumoto. Ang pekeng robocall ay nilayon upang linlangin ang mga botante at sapat na sopistikado na halos madaya nito ang sinuman. 

Ano ang mga remedyo sa Batas?

AB 2839 nagbibigay-daan sa isang tatanggap o biktima ng isang deepfake na lumalabag sa panukalang batas na gumamit ng isang pinabilis na proseso upang mabilis na matigil ang pagkalat ng disinformation sa pamamagitan ng injunctive relief, at humingi ng mga pinsala kung naaangkop. Walang criminal liability.

AB 2655

Ang Limitadong Kalikasan ng AB 2655

AB 2655, epektibo sa Ene 1, 2025, ay naglalayong ihinto, para sa isang mahigpit na limitadong oras bago at pagkatapos ng halalan, ang online pagkalat ng pinakamasamang deepfakes at disinformation na may masamang layunin na pigilan ang mga botante na bumoto o makuha silang bumoto nang mali batay sa mapanlinlang na nilalaman. 

Ginagawa nito ito sa pamamagitan ng pag-aatas sa malalaking online na platform na alisin ang naturang nilalaman sa pag-abiso. Ang nilalamang maaaring ipagbawal ay limitado sa mga deepfakes ng mga kandidato, opisyal ng halalan, at mga halal na opisyal na nilayon upang dayain ang mga botante. Inaatasan din ng panukalang batas na ang iba pang pekeng online na nilalaman na nauugnay sa mga halalan ay dapat mamarkahan bilang peke, muli para lamang sa isang limitadong panahon. 

• Nalalapat lang ito sa "materyal na mapanlinlang" na malalim na pekeng content, ibig sabihin, nalalapat lang ito sa content na manlinlang sa isang makatwirang tao. Ang mga bagay na halatang peke, jokey, cartoonish, o satirical ay hindi tinatablan ng panukalang batas. (§ 20513(a))
• Ito ay nangangailangan ng nilalaman na ipamahagi nang may masamang hangarin. (§§ 20513(a)(2)(C), 20514(a)(3))
• Nalalapat lamang ito sa loob ng 120 araw bago ang isang halalan at, para sa mga malalim na pekeng tungkol sa mga opisyal ng halalan, sa loob ng 60 araw pagkatapos ng halalan. Nalalapat lamang ito kapag ang panganib ng disinformation sa halalan ay pinakamataas, hindi sa lahat ng oras. (§ 20513(e))
• Partikular na hindi kasama sa batas ang parody o satire. (§ 20519(c))

Ano ang Gusto AB 2655 Mag-apply sa, Sa Tunay na Tuntunin?

Ang isang halimbawa ng isang political deepfake kung saan ilalapat ang panukalang batas ay isang post sa Tik Tok na kinabibilangan ng isang deepfake ng isang lokal na mayor na "nahuli sa tape" na kumukuha ng suhol, bago ang Araw ng Halalan, o isang X post na kinabibilangan ng isang deepfake ng isang halalan sa county opisyal na nagsasabi na ang kanilang mga makina sa pagboto ay na-hack lahat, pagkatapos ng Araw ng Halalan. 

Ano ang mga remedyo sa Batas?

AB 2655 ay maipapatupad sa pamamagitan ng isang pinabilis na proseso upang mabilis na matigil ang pagkalat ng disinformation sa pamamagitan ng injunctive relief. Walang kriminal o sibil na pananagutan.