Il video Deepfake che prende di mira la moglie di Zelensky è legato alla campagna di disinformazione russa, secondo l'analisi della CNN
Il video generato dall'AI presenta un dipendente immaginario della concessionaria Bugatti a Parigi che afferma che Olena Zelenska ha acquistato il nuovo modello, il Bugatti Tourbillon, per 4,5 milioni di euro (circa 4,8 milioni di dollari) il 7 giugno.
Il clip presenta diverse tracce di un deep fake, da tagli nel video a strane accentuazioni e movimenti labiali e orali, secondo Clement Briens, ricercatore della società di cybersecurity Recorded Future. Tuttavia, ha raccolto oltre 18 milioni di visualizzazioni in 24 ore su X, dove è stato ripubblicato da influencer pro-russi.
Bugatti ha emesso un comunicato stampa martedì che la sua concessionaria a Parigi, gestita da Autofficina Parigi, società del Gruppo Car Lovers, è stata vittima di diverse frodi e "ha denunciato con fermezza questa campagna di disinformazione".
"Un presunto venditore che si fa passare per il Gruppo Car Lovers e la sua etichetta sportiva Schumacher Group, ha pubblicato un video sui social network in cui indicava che la Bugatti Paris dealership ha venduto un veicolo alla coppia presidenziale ucraina", ha aggiunto, aggiungendo che il gruppo "fortemente nega sia la transazione sia, di conseguenza, l'esistenza della fattura".
"I dettagli legali obbligatori non appaiono sulla fattura, il prezzo del veicolo è anche errato, i prezzi delle opzioni e le loro descrizioni sono inesatti e inconsistenti, le grafiche sono obsolete, e il Gruppo Car Lovers non avrebbe mai permesso che tale documento venisse emesso", ha aggiunto.
Il gruppo ha inoltre dichiarato di aver intrapreso azioni legali "presentando una denuncia penale per falsificazione, uso di falsificati, usurpazione d'identità e diffamazione" – ma non ha specificato contro chi la denuncia è stata presentata.
Clarity, una startup di cybersecurity AI specializzata nella lotta contro i deepfakes, ha detto alla CNN che la loro recensione del video indicava "una certissima probabilità di manipolazioni AI, principalmente nella zona facciale centrale".
Il video ha origine da un sito web francese, Verite Cachee France (sic), il cui contenuto sembra essere generato automaticamente dall'AI attraverso la raccolta di articoli francesi.
Un analisi di CNN mostra che Verite Cachee è stata creata recentemente, il 22 giugno 2024, e alcune delle sue pagine ancora mostrano prompts AI per creare falsi articoli in cima al pezzo. CNN non è in grado di trovare un contatto per il sito web.
Il titolo del sito web non usa accenti – la scrittura corretta sarebbe Vérité Cachée – aggiungendo ulteriori dubbi sulla sua autenticità.
Darren Linvill, un professore dell'Università di Clemson Media Forensics Hub, ha detto alla CNN che il deep fake e i siti web di Verite Cachee presentano le tracce di una campagna di narrativa russa occulta che si è svolta da agosto scorso, con l'obiettivo di sviluppare l'Ucraina.
"Tipicamente pongono un video con una storia da raccontare su YouTube. Poi raccontano quella storia sui siti web di falsa notizia che hanno creato, e spesso anche uno o più siti allianti. Poi integrano la storia attraverso i social media, partendo dai influencer pro-russi che fanno parte della loro rete", ha detto a CNN. "Solo una piccola differenza con questa campagna: il video non sembra essere su YouTube".
In un report di fine anno dalla fine di dicembre, Linvill e Patrick Warren, anche lui professore all'Università di Clemson, hanno mostrato come la campagna di disinformazione era guidata da DC Weekly, un sito web che ha pubblicato una serie di articoli generati dall'AI di propaganda russa e falsi, come la falsa affermazione che Olena Zelenska ha acquistato 1,1 milioni di gioielli a Cartier a New York l'ultima settimana di settembre scorso.
Un rapporto di Recorded Future, una società leader di cybersecurity, ha identificato Veritee Cachee come facente parte dello stesso network di disinformazione.
A causa della grandezza e delle risorse del network, è probabile che ci sia qualche sostegno o finanziamento russo, ha detto Clement Briens, analista senior di minacce della società.
"Raccogliono articoli automaticamente da una serie di fonti, usando LLMs per introdurre specificamente la bias politico per attaccare Zelensky, Biden e NATO. Poi caricano gli articoli sui siti web per lavare una narrativa pro-russa", ha detto Briens.
Il volume enorme di articoli rende più difficile rilevare quando si introducono falsificazioni in profondità.
"Poi, dopo che qualcuno carica il video su YouTube o direttamente sul sito, il sistema di amplificazione viene attivato sui social media".
Il bersaglio sono lettori politici in Europa, con l'obiettivo di indebolire la fiducia politica domestica dell'Ucraina e di minare i leader europei che supportano l'Ucraina, come il presidente francese Emmanuel Macron, secondo l'analista.
Il video, proveniente da un sito web francese questionabile, mirava a danneggiare la reputazione dei figli politici ucraini falsamente affermando che Olena Zelenska aveva acquistato un veicolo Bugatti di punta. Nonostante abbia raccolto milioni di visualizzazioni, i leader politici europei, come il presidente francese Emmanuel Macron, rimangono impassibili, riaffermando il loro supporto all'Ucraina.
