Secondo l'UNESCO la distorsione della verità storica prodotta dall'intelligenza artificiale rappresenta una minaccia
AI sistemi hanno una abilità per inventare false accadimenti storici e possono essere allenati con dati inesatti. Questo potrebbe potenzialmente distorcere la comprensione pubblica dell'Olocausto, come affermato dall'UNESCO. Tuttavia, l'UNESCO propone una soluzione a questa situazione.
L'UNESCO, l'Organizzazione delle Nazioni Unite per la Cultura, emette un avviso sul negazionismo dell'Olocausto generato da AI e la fabbricazione della storia. Se non si stabiliscono pratiche etiche globali per l'uso di AI, come già fatto dall'UNESCO, la rappresentazione dell'Olocausto potrebbe essere manipolata, e l'antisemitismo potrebbe diffondersi, secondo un rapporto dell'UNESCO e del Congresso Mondiale Ebraico.
I sistemi AI, come quelli utilizzati in chatbot come ChatGPT, estraggono dati dall'internet, i quali possono essere ingannosi e contenere pregiudizi umani. Questo può portare a rappresentazioni errate di determinati eventi e all'amplificazione di visioni discriminatorie. A causa della mancanza di sorveglianza e di moderazione dei contenuti da parte sviluppatori di AI, strumenti di generazione di AI potrebbero essere allenati su informazioni provenienti da siti web di negazionismo dell'Olocausto.
Inoltre, entità malintenzionate possono impiegare AI per creare contenuti falsi come testimonianze di occhiadi e documenti storici relativi all'Olocausto. Contenuti multimediali falsificati e audio sono particolarmente convincenti per giovani individui che li incontrano su piattaforme sociali. I modelli AI hanno anche una tendenza a inventare eventi e addirittura accadimenti storici se non dispongono di dati adeguati.
"Se consentiamo che la realtà orribile dell'Olocausto venga minata, distorta o inventata a causa dell'uso imprudente di AI, correremo il rischio di una diffusione larga di antisemitismo e dell'erosione della nostra consapevolezza sui motivi e gli effetti di queste atrocità," ha commentato la Direttrice Generale dell'UNESCO Audrey Azoulay. L'applicazione immediata delle raccomandazioni dell'UNESCO sull'etica di AI è necessaria per garantire che le prossime generazioni cresceranno con la verità invece che falsificati.
