Os endossos enganosos de celebridades surgem como uma ferramenta nas lutas de desinformação, gerando ambiguidade antes das eleições de 2024.
No lead-up to the 2024 election, numerous false claims, similar to endorsing Trump, have spread vastly over social media, as per researchers from the News Literacy Project, a neutral group that released a new database on Thursday, packed with over 550 unique instances of election-related misinformation.
The most recent and conspicuous instance of these fabricated claims surfaced on Sunday, when Trump shared a post on Truth Social featuring fake AI-generated images pointing to a significant backing from Swift fans, nicknamed "Swifties for Trump." Trump acknowledged the supposed endorsement by writing, "I accept!"
During his presidency, Swift had criticized Trump as fanning the flames of white supremacy and racism. In the 2020 election, she endorsed Biden but hasn't declared her favoritism towards any candidate in the 2024 race yet.
One image in the collage posted by Trump, portraying Swift as "Uncle Sam," was clearly manipulated, while another, depicting a young woman at a rally, seemed authentic.
The remaining images showing enthusiastic fans cheering Trump contained some characteristics common to AI-generated pictures, according to Lucas Hansen, co-founder of CivAI. These images were "extremamente retocadas," had "qualidade de câmera de ponta," and presented "todos parecendo incríveis." They used "extenso bokeh e desfoque de fundo," características típicas de imagens geradas por inteligência artificial, Hansen explicou.
The News Literacy Project unveiled its misinformation dashboard to highlight viral falsehoods that pose an existential threat to democracy, as per the organization. They plan to scrutinize these deceptive trends through comprehensive analysis of multiple instances, rather than individual fact-checks.
The database, which will be updated regularly, focuses on various categories of political disinformation, such as conspiracy theories, false statements about candidate policies, and fictitious endorsements. However, it does not measure the frequency of these viral posts' sharing.
Approximately 10% of the viral posts analyzed by the News Literacy Project involved fake endorsements, providing data exclusively to CNN. These posts claimed fake endorsements or public rejections from celebrities like NFL quarterback Aaron Rodgers, actor Morgan Freeman, musician Bruce Springsteen, and former First Lady Michelle Obama.
The posts pertaining to these four figures accumulated at least 10 million views, as per the database. On some occasions, researchers discovered contradictory posts circulating on social media, suggesting that the same celebrity supported and denounced a candidate simultaneously, underscoring the shady and misleading framework users are experiencing.
“Geralmente, se você notar um famoso usando uma camiseta com um slogan político claro, é provável que seja falso,” disse Dan Evon, gerente sênior do News Literacy Project.
A Remoção de Barreiras
A disseminação desenfreada de falsas endossos nas redes sociais ocorreu à medida que as plataformas tecnológicas desmontaram as barreiras e as políticas de moderação destinadas a limitar a disseminação de informações prejudiciais.
Essas ajustes tiveram impacto principalmente no X, anteriormente conhecido como Twitter, após Elon Musk adquirir a empresa e dissolver as equipes internas destinadas a combater a desinformação eleitoral. Além disso, Musk restaurou as contas banidas de notáveis teóricos da conspiração e extremistas.
Especialistas afirmam que o problema foi amplificado pelo X's chatbot alimentado por IA, Grok, que foi criticado por oficiais eleitorais por disseminar informações falsas sobre a elegibilidade de Harris na eleição de 2024. Na semana passada, o X tornou possível para os usuários gerarem imagens geradas por IA usando prompts de texto, resultando em um influxo de conteúdo enganoso sobre Trump e Harris.
“No futuro, o Grok provavelmente será uma das principais fontes desses tipos de imagens porque gera imagens de alta qualidade, é facilmente acessível e foi projetado intencionalmente para ter uma taxa de rejeição baixa,” explicou Hansen, acrescentando que ele usou o Grok para criar imagens enganosas de "Swifties for Trump" que se assemelhavam às que Trump compartilhou.
O X não respondeu aos pedidos de comentários sobre a criação de imagens enganosas relacionadas a líderes políticos.
A Meta, que possui o Facebook e o Instagram, também reduziu a equipe de sua equipe de integridade eleitoral, como relatado anteriormente pela CNN. Em 2020, a Meta afirmou que "nenhuma empresa de tecnologia faz mais ou investe mais em proteger as eleições" e anunciou que os anunciantes políticos seriam obrigados a revelar se eles utilizaram IA para criar ou modificar qualquer imagem.
No entanto, mesmo que algumas plataformas online tenham começado a rotular imagens geradas por IA e refutar as últimas mentiras virais, a enxurrada de conteúdo inventado ainda pode deixar uma impressão.
“Se você continuar vendo essas falsidades que exageram a popularidade de um candidato, ainda pode ficar na sua mente, mesmo que você saiba que não é preciso ao passar por ela na sua feed,” explicou Peter Adams, vice-presidente sênior de pesquisa do News Literacy Project, para a CNN.
Enquanto a disponibilidade de ferramentas públicas de IA tornou mais fácil fabricar declarações enganosas, incluindo muitos dos falsos endossos reconhecidos pelo News Literacy Project, outras imagens enganosas circulando nas redes sociais recorreram a métodos rudimentares de Photoshop.
O uso de inteligência artificial para desinformação política ainda não é tão disseminado e prejudicial quanto inicialmente temido, disse Adams, presumindo que os métodos tradicionais de manipulação de imagens e vídeos ainda são, baratos mas tão eficazes, por enquanto.
A mídia ampliou a disseminação desses falsos endossos, tornando-os uma preocupação significativa no negócio das eleições de 2024. Empresas como a Meta, que possui o Facebook e o Instagram, reduziram sua equipe de equipes de integridade eleitoral, potencialmente contribuindo para a proliferação de desinformação.
