Selon l'UNESCO, la déformation de la vérité historique par l'IA constitue une menace
Les systèmes AI ont un don pour inventer des événements historiques fausses et peuvent être formés à des données inexactes. Cela peut potentiellement altérer la compréhension du public de l'Holocauste, comme le souligne l'UNESCO. Cependant, l'UNESCO propose une solution à cette situation.
L'UNESCO, l'Organisation des Nations Unies pour l'Éducation, la Science et la Culture, émet un avertissement sur la négation de l'Holocauste générée par l'IA et la fabrication d'histoire. Si des règles éthiques mondiales d'utilisation de l'IA ne sont pas mises en place, comme l'a déjà fait l'UNESCO, la représentation de l'Holocauste peut être manipulée, et le antisémitisme pourrait s'étendre, d'après un rapport de l'UNESCO et du Congrès Mondial Juif.
Les systèmes AI, comme ceux utilisés dans des chatbots tels que ChatGPT, tirent leurs données de l'internet, qui peuvent être trompeuses et contenir une préjugé humain. Cela peut conduire à des représentations erronées d'événements particuliers et l'amplification de vues discriminatoires. En raison de l'absence de surveillance et de la modification de contenu des développeurs d'IA, des outils de génération d'IA peuvent être formés à des informations provenant de sites web de négation de l'Holocauste.
De plus, des entités malveillantes peuvent utiliser l'IA pour créer du contenu contrefait tel que des témoignages d'observateurs et des documents historiques liés à l'Holocauste. Des contenus audio et images trompeurs sont particulièrement convaincants pour une jeunesse qui les rencontre sur des plateformes sociales. Les modèles d'IA ont également une tendance à inventer des événements et même des occurrences historiques si ils n'ont pas accès à des données suffisantes.
"Si nous laissons la réalité horrifique de l'Holocauste être minée, altérée ou fabriquée à travers une utilisation irresponsable de l'IA, nous courons le risque de la propagation large de l'antisémitisme et de l'érosion de notre conscience sur les causes et les conséquences sous-jacentes de ces atrocités," a commenté le directeur général de l'UNESCO Audrey Azoulay. L'application immédiate des recommandations de l'UNESCO en matière d'éthique de l'IA est indispensable pour garantir que les générations futures grandissent avec la vérité plutôt que des contrefaçons.
