Gli Stati prendono di mira l'IA e i deepfakes mentre si profila la minaccia di interferenza elettorale
Più di una dozzina di stati guidati da Repubblicani e Democratici hanno adottato quest'anno leggi per regolare l'uso dei deepfake – contenuti falsi realistici, video, audio e altro creati con l'IA – nelle campagne. Le leggi arrivano in mezzo a avvertimenti del Dipartimento della Sicurezza Interna sulla capacità dei deepfake di fuorviare gli elettori e mentre permangono dubbi sul fatto che il Congresso possa prendere misure significative prima di novembre.
La Florida, le Hawaii, New York, l'Idaho, l'Indiana, il Nuovo Messico, l'Oregon, l'Utah, il Wisconsin, l'Alabama, l'Arizona e il Colorado hanno approvato leggi quest'anno che richiedono la rivelazione negli spot politici con contenuti deepfake. Mentre il Michigan, lo Washington, il Minnesota, il Texas e la California già avevano leggi che regolamentavano i deepfake, il Minnesota ha aggiornato la sua legge quest'anno per richiedere che un candidato rinunci alla sua carica o alla sua nomina se viola le leggi statali sui deepfake, tra le altre disposizioni.
In stati come New York, Nuovo Messico e Alabama, le vittime possono richiedere un'ordinanza del tribunale per fermare il contenuto.
I trasgressori delle leggi sui deepfake in Florida, Mississippi, Nuovo Messico e Alabama possono ricevere pene detentive. Chi viola la legge del Mississippi con l'intenzione di scoraggiare qualcuno dal votare o di incitare la violenza o il danno fisico può essere condannato a un massimo di cinque anni, mentre la pena in Florida è un reato di primo grado, punibile con un massimo di un anno di carcere.
La violazione delle leggi sui deepfake potrebbe anche comportare multe salate in alcuni stati: nell'Utah e nel Wisconsin, i trasgressori possono essere multati fino a $1.000 per violazione, e nell'Oregon e nel Mississippi, le multe possono raggiungere i $10.000.
‘Un mondo intero nuovo’
Mentre ci sono attualmente percorsi per i candidati per contestare gli spot ingannevoli, è ancora troppo presto per dire se le leggi saranno sufficienti quando si tratta di deepfake, ha detto Amy Beth Cyphert, docente di diritto alla West Virginia University’s College of Law. L'IA rappresenta una sfida unica, ha detto Cyphert, a causa della velocità con cui sta evolvendo.
"Voglio dire, chiunque, anche con pochissima competenza tecnologica, potrebbe probabilmente creare un deepfake se sapesse dove cercare", ha aggiunto. "E poi, hai davvero un mondo intero nuovo".
Per il rappresentante dello stato dell'Arizona Alexander Kolodin, un Repubblicano che ha sponsorizzato una delle nuove leggi statali sull'IA, la capacità dei deepfake di creare rappresentazioni vocali realistiche lo ha ispirato a muovere una legislazione che consenta ai candidati di richiedere un'ordinanza del tribunale che dichiari che il contenuto manipolato è un deepfake. Kolodin ha detto a CNN che un'ordinanza è "uno strumento potente" che può aiutare i candidati a formare una contro-narrativa ai deepfake che possono diffondersi rapidamente online.
"Penso che dobbiamo capire che ci sono state menzogne in politica fin da quando c'è stata la politica, giusto? Questa è una nuova tecnologia, ma non è un problema nuovo", ha detto.
Kolodin, che dice che l'IA ha ancora un posto in politica, ha usato ChatGPT per scrivere una parte della legge che descrive l'"impostazione digitale". La governatrice democratica dell'Arizona Katie Hobbs ha firmato la sua proposta di legge in maggio, insieme ad un'altra legge sull'IA che richiede le rivelazioni negli spot elettorali.
Big Tech ha già preso alcuni passi per moderare il contenuto dei deepfake. TikTok e Meta (la società madre di Instagram, Threads e Facebook) hanno annunciato piani nei mesi recenti per etichettare il contenuto AI, mentre YouTube richiede ai creatori di rivelare quando i video sono creati con l'IA.
Regolamentazione federale rapida in dubbio
Despite momentum in statehouses, "the story is not optimistic on the federal side," according to Robert Weissman, president of Public Citizen, a group that has pushed for statewide action and tracked progress on legislation regulating deepfakes in elections.
While bills that would require deepfakes to be clearly labeled have been introduced in Congress, there are few signs that lawmakers will act on the issue before November. While Senate Majority Leader Chuck Schumer supports the legislation, Minority Leader Sen. Mitch McConnell has argued that the “well-developed legal regime” that exists to take down deceptive campaign ads can be “easily” applied to deepfakes. In the House, bipartisan legislation has stalled in committee.
Absent congressional action, the task falls to agencies like the Federal Election Commission and Federal Communication Commission to try to regulate AI in campaign ads.
Spurred by fears that deepfakes could defraud voters, Public Citizen petitioned the FEC to act last year. The agency has yet to issue a rule to regulate the use of AI-generated deepfakes in election ads, and Weissman said his group is “not optimistic.”
In a statement to CNN, FEC Chairman Sean Cooksey said that he expects the agency’s rulemaking to finish later this year.
The FCC, for its part, unanimously voted earlier this year to outlaw the use of AI-generated voices in robocalls and said in late July it would move forward with a proposal to require AI disclosures in political TV and radio ads. It’s not immediately clear whether the agency would finalize the rules before the election. FCC Chair Jessica Rosenworcel intends to follow the regulatory process but “has been clear that the time to act is now,” Jonathan Uriarte, a spokesperson for Rosenworcel, told CNN.
Looking toward November
Not all of the bills introduced at the state level made their way to governors’ desks following fights over their scope and reach. According to Public Citizen, deepfake related bills were introduced in more than 40 US states in 2024.
In Georgia, a battleground state that helped decide the fate of the 2020 presidential election, there’s no law preventing political ads featuring deepfakes from airing without a disclosure. While there was bipartisan support for one in both chambers, it was eventually tabled in the Senate after it was passed out of the House.
Rappresentante di stato Dar’shun Kendrick, un democratico che fa parte del comitato che ha gestito il progetto di legge, ha detto a CNN che avrebbe voluto che passasse. Quando le è stato chiesto se è preoccupata per uno stato come la Georgia che non ha una legge in vigore per le elezioni, ha detto che "ci saranno sempre dei brutti attori".
"Speriamo che, se ne vediamo qualcuno, saranno rapidamente dissipati o rimossi o ci sarà qualche azione correttiva", ha aggiunto Kendrick.
Per ora, gli stati stanno utilizzando altri modi per proteggersi dalle deepfake dannose. I lavoratori delle elezioni in Arizona vengono addestrati per riconoscere le deepfake come parte della preparazione per le elezioni, e nel Nuovo Messico, il segretario di stato dello stato ha lanciato una campagna per educare gli elettori su come riconoscerle.
La campagna condotta dallo stato può solo rafforzare la legge sul divieto del Nuovo Messico, ha detto Alex Curtas, portavoce del segretario di stato del Nuovo Messico.
"Queste cose dovranno lavorare a braccetto", ha detto.
I giornalisti di CNN Oliver Darcy, Sean Lyngaas, Donie O’Sullivan e Yahya Abou-Ghazala hanno contribuito a questo servizio.
Alla luce dei timori espressi dal Dipartimento della sicurezza interna, i politici in vari stati come la Florida, le Hawaii, New York e l'Alabama hanno adottato leggi per regolare l'uso delle deepfake nelle campagne politiche. Queste leggi richiedono la rivelazione negli spot politici con contenuti deepfake e i trasgressori possono affrontare multe significative o addirittura il carcere in alcuni stati, come l'Utah e il Wisconsin.
Tuttavia, l'evoluzione rapida dell'IA rappresenta una sfida unica per il rilevamento e la regolamentazione delle deepfake. Secondo Amy Beth Cyphert, docente di diritto alla West Virginia University's College of Law, chiunque abbia conoscenze tecnologiche minime potrebbe potenzialmente creare una deepfake. Ciò, secondo lei, segna un "nuovo mondo" nel campo della politica e dei contenuti ingannevoli.
