Os Estados visam a IA e deepfakes à medida que a ameaça de interferência eleitoral se projeta
Mais de uma dúzia de estados liderados por republicanos e democratas aprovou legislação este ano para regulamentar o uso de deepfakes – conteúdo falso realista, criado com IA, em campanhas. As leis chegam em meio a advertências do Departamento de Segurança Interna sobre a capacidade dos deepfakes de enganar eleitores e enquanto persistem dúvidas sobre se o Congresso pode tomar medidas significativas antes de novembro.
A Flórida, Havaí, Nova Iorque, Idaho, Indiana, Novo México, Oregon, Utah, Wisconsin, Alabama, Arizona e Colorado aprovaram leis este ano que exigem divulgações em anúncios políticos com conteúdo de deepfake. Enquanto Michigan, Washington, Minnesota, Texas e Califórnia já tinham leis que regulamentam os deepfakes, Minnesota atualizou sua lei este ano para exigir que um candidato renuncie ao cargo ou à nominação se violar as leis de deepfake do estado, entre outras providências.
Em estados como Nova Iorque, Novo México e Alabama, as vítimas podem buscar uma ordem judicial para deter o conteúdo.
A violação de leis relacionadas a deepfakes em Flórida, Mississippi, Novo México e Alabama pode resultar em prisão. Alguém que violar a lei do Mississippi com a intenção de desencorajar alguém a votar ou incitar violência ou dano físico pode ser sentenciado a um máximo de cinco anos, enquanto a penalidade na Flórida é um delito de primeiro grau, punível com até um ano de prisão.
A quebra da lei também pode levar a multas pesadas em alguns estados: no Utah e Wisconsin, os infratores podem ser multados em até $1.000 por violação, e no Oregon e Mississippi, as multas podem chegar a até $10.000.
‘Um mundo inteiramente novo’
Enquanto há currently caminhos para candidatos desafiarem anúncios enganosos, ainda é cedo para dizer se as leis serão suficientes no caso dos deepfakes, disse Amy Beth Cyphert, professora de direito na Faculdade de Direito da Universidade de West Virginia. A IA representa um desafio único, disse Cyphert, devido à velocidade com que está evoluindo.
“Quer dizer, qualquer um, mesmo com muito pouco domínio tecnológico, provavelmente poderia criar um deepfake se soubesse onde procurar”, ela acrescentou. “E então, você realmente tem um mundo inteiramente novo”.
Para o deputado estadual republicano Alexander Kolodin, da Arizona, que patrocinou uma das novas leis do estado sobre conteúdo gerado por AI, a capacidade dos deepfakes criarem representações de voz realistas inspirou-o a mover legislação que permite aos candidatos buscar uma ordem judicial declarando que o conteúdo manipulado é um deepfake. Kolodin disse à CNN que uma ordem é “uma ferramenta poderosa” que pode ajudar os candidatos a formar uma narrativa contrária aos deepfakes que podem se espalhar rapidamente online.
“Acho que temos que entender que há mentiras na política desde que há política, certo? Esta é uma nova tecnologia, mas não é um novo problema”, disse ele.
Kolodin, que diz que a IA ainda tem um lugar na política, usou o ChatGPT para redigir uma parte do projeto de lei que descreve “imitação digital”. A governadora democrata da Arizona, Katie Hobbs, assinou sua proposta em lei em maio, junto com outro projeto de lei sobre AI que exige divulgações em anúncios de campanha.
As grandes empresas de tecnologia já deram alguns passos para moderar o conteúdo de deepfake. O TikTok e o Meta (a empresa-mãe do Instagram, Threads e Facebook) anunciaram planos nos últimos meses para etiquetar conteúdo criado por IA, enquanto o YouTube exige que os criadores divulguem quando os vídeos são criados por AI.
Regulamentação federal rápida em dúvida
Apesar do movimento nas assembleias estaduais, “a história não é otimista no lado federal”, de acordo com Robert Weissman, presidente da Public Citizen, um grupo que tem pressionado por ação estadual e rastreado o progresso da legislação que regulamenta os deepfakes nas eleições.
Enquanto projetos de lei que exigiriam que os deepfakes fossem claramente etiquetados foram apresentados no Congresso, há poucos sinais de que os legisladores agirão sobre a questão antes de novembro. Enquanto o líder da maioria do Senado, Chuck Schumer, apoia a legislação, o líder da minoria do Senado, Mitch McConnell, argumentou que o “sistema legal bem desenvolvido” que existe para derrubar anúncios de campanha enganosos pode ser “fácilmente aplicado aos deepfakes”. Na Câmara, a legislação bipartidária ficou presa em comissão.
Em falta de ação do Congresso, a tarefa recai sobre agências como a Comissão Eleitoral Federal e a Comissão Federal de Comunicações para tentar regulamentar a IA nos anúncios de campanha.
Impulsionado pelos medos de que os deepfakes possam fraudar eleitores, a Public Citizen apresentou uma petição à FEC para agir no ano passado. A agência ainda não emitiu uma regra para regulamentar o uso de deepfakes gerados por AI em anúncios eleitorais, e Weissman disse que seu grupo não é otimista.
Em um comunicado à CNN, o presidente da FEC, Sean Cooksey, disse que espera que o processo de elaboração de regras da agência seja concluído neste ano.
Quanto à FCC, ela votos unânimes mais cedo este ano para proibir o uso de vozes geradas por AI em ligações em massa e disse no final de julho que avançaria com uma proposta para exigir divulgações de AI em anúncios políticos na TV e no rádio. Não está claro imediatamente se a agência finalizaria as regras antes da eleição. A presidente da FCC, Jessica Rosenworcel, tem a intenção de seguir o processo regulamentar, mas “tem sido clara que o momento de agir é agora”, disse Jonathan Uriarte, porta-voz de Rosenworcel, à CNN.
Olhando para novembro
Não todas as propostas de lei apresentadas no nível estadual chegaram às mesas dos governadores após lutas sobre sua abrangência e alcance. De acordo com a Public Citizen, foram apresentadas propostas de lei relacionadas a deepfakes em mais de 40 estados dos EUA em 2024.
Na Geórgia, um estado de disputa que ajudou a decidir o destino das eleições presidenciais de 2020, não há lei que impeça os anúncios políticos com deepfakes de serem veiculados sem uma divulgação. Embora houvesse apoio bipartidário para uma lei tanto na Câmara quanto no Senado, ela acabou sendo arquivada no Senado após ser aprovada na Câmara.
Deputada estadual Dar’shun Kendrick, uma democrata que faz parte do comitê que liderou o projeto de lei, disse à CNN que gostaria que ele tivesse sido aprovado. Quando questionada sobre se está preocupada com um estado como a Geórgia não ter uma lei antes das eleições, ela disse que "sempre haverá atores ruins".
"Esperamos que, se os virmos, eles sejam rapidamente desmentidos ou removidos ou haverá alguma ação corretiva", acrescentou Kendrick.
Por enquanto, os estados estão usando outros meios para proteger contra deepfakes prejudiciais. Funcionários das eleições do Arizona estão sendo treinados para reconhecer deepfakes como parte da preparação para as eleições, e no Novo México, o secretário de estado do estado lançou uma campanha para educar os eleitores sobre como reconhecê-los.
A campanha liderada pelo estado só pode fortalecer a lei de divulgação do Novo México, disse Alex Curtas, porta-voz do secretário de estado do Novo México.
"Essas coisas vão ter que trabalhar de mãos dadas", disse ele.
Os repórteres da CNN Oliver Darcy, Sean Lyngaas, Donie O’Sullivan e Yahya Abou-Ghazala contribuíram para esta reportagem.
Levantando preocupações do Departamento de Segurança Interna, políticos em vários estados, como Flórida, Havaí, Nova Iorque e Alabama, aprovaram legislação para regulamentar o uso de deepfakes em campanhas políticas. Essas leis exigem divulgações em anúncios políticos com conteúdo de deepfake, e infratores podem enfrentar multas significativas ou até mesmo prisão em alguns estados, como Utah e Wisconsin.
No entanto, a evolução rápida da IA representa um desafio único para detectar e regulamentar deepfakes. De acordo com Amy Beth Cyphert, professora de direito na Faculdade de Direito da Universidade Estadual da Virgínia Ocidental, qualquer pessoa com conhecimentos técnicos mínimos poderia potencialmente criar um deepfake. Isso, ela acrescenta, significa um "novo mundo" no campo da política e do conteúdo enganoso.
