Вводящие в заблуждение признания знаменитостей становятся инструментом в борьбе с дезинформацией, создавая неоднозначность перед выборами 2024 года.
В преддверии выборов 2024 года на социальных сетях распространилось множество ложных заявлений, подобных поддержке Трампа, как сообщают исследователи из Новостной Литературной Проекции, нейтральной организации, которая в четверг представила новую базу данных с более чем 550 уникальными случаями дезинформации, связанной с выборами.
Последний и наиболее очевидный случай таких ложных утверждений произошел в воскресенье, когда Трамп поделился публикацией в Truth Social с фальшивыми изображениями, созданными с помощью ИИ, якобы свидетельствующими о значительной поддержке со стороны фанатов Свифт, которых называют "Свифт для Трампа". Трамп признал якобы поддержку, написав: "Я принимаю это!"
Во время своего президентства Свифт критиковала Трампа за разжигание расизма и белой супремации. На выборах 2020 года она поддержала Байдена, но еще не объявила о своей поддержке какого-либо кандидата на выборах 2024 года.
Одно из изображений в коллаже, опубликованном Трампом, на котором Свифт изображается "Дядя Сэм", было очевидно поддельным, в то время как другое, изображающее молодую женщину на митинге, казалось подлинным.
Остальные изображения, показывающие восторженных фанатов, приветствующих Трампа, содержали некоторые признаки, типичные для изображений, созданных с помощью ИИ, по словам Лукаса Хансена, сооснователя CivAI. Эти изображения были "очень отретушированы", имели "высокое качество камеры" и показывали "всех в лучшем свете". Они использовали "широкое использование бokeh и размытие фона", типичные черты изображений, созданных с помощью искусственного интеллекта, объяснил Хэнсен.
Новостная Литературная Проекция представила свой дашборд дезинформации, чтобы выделить вирусные ложные утверждения, которые представляют собой существную угрозу демократии, как заявляет организация. Они планируют изучить эти обманчивые тенденции посредством всестороннего анализа нескольких случаев, а не отдельных проверок фактов.
База данных, которая будет регулярно обновляться, сосредоточена на различных категориях политической дезинформации, таких как теории заговора, ложные заявления о политике кандидата и фиктивные поддержки. Однако она не измеряет частоту распространения этих вирусных сообщений.
Примерно 10% вирусных сообщений, проанализированных Новостной Литературной Проекцией, были связаны с фиктивными поддержками, что исключительно сообщили CNN. Эти сообщения утверждали ложные поддержки или публичные отказы от знаменитостей, таких как квотербек NFL Аарон Роджерс, актер Морган Фримен, музыкант Брюс Спрингстин и бывшая первая леди Мишель Обама.
Сообщения, связанные с этими четырьмя фигурами, набрали не менее 10 миллионов просмотров, согласно базе данных. В некоторых случаях исследователи обнаружили противоречивые сообщения, циркулирующие в социальных сетях, которые suggered, что та же знаменитость одновременно поддерживала и отвергала кандидата, подчеркивая запутанную и обманчивую структуру, с которой сталкиваются пользователи.
"В целом, если вы видите знаменитость в футболке с явным политическим лозунгом, скорее всего, это подделка", - сказал Дэн Эван, старший менеджер Новостной Литературной Проекции.
Удаление барьеров
Распространение ложных поддержок на социальных сетях произошло в то время, когда платформы технологий снимали ограничения и политики модерации, предназначенные для ограничения распространения опасных дезинформаций.
Эти изменения в основном затронули X, ранее известный как Twitter, после того, как Элон Маск приобрел компанию и распустил внутренние команды, предназначенные для борьбы с дезинформацией о выборах. Кроме того, Маск восстановил заблокированные аккаунты известных теоретиков заговора и экстремистов.
Эксперты заявляют, что проблема усугубилась из-за AI-powered чатбота X, Grok, который подвергся критике со стороны выборных чиновников за распространение ложной информации о праве Харис на участие в выборах 2024 года. На прошлой неделе X разрешила пользователям создавать AI-генеративные изображения с помощью текстовых подсказок, что привело к наплыву ложного контента, связанного с Трампом и Харис.
"В будущем Grok, скорее всего, станет одним из основных источников таких типов изображений, потому что он генерирует высококачественные изображения, легко доступен и был специально разработан с низким уровнем отказов", - объяснил Хэнсен, добавив, что он использовал Grok для создания обманчивых изображений "Свифт для Трампа", подобных тем, которые Трамп поделился.
X не ответила на запросы о комментариях по поводу создания ложных изображений, связанных с политическими лидерами.
Meta, которой принадлежат Facebook и Instagram, также сократила штат своей команды по защите выборов, как сообщалось ранее CNN. В 2020 году Meta заявила, что "никакая компания не делает больше или не вкладывает больше в защиту выборов", и объявила, что политические рекламодатели должны раскрывать, использовали ли они ИИ для создания или изменения любых изображений.
Однако даже когда некоторые онлайн-платформы начали маркировать AI-генеративные изображения и опровергать последние вирусные лжи, поток созданного контента все еще может оставлять впечатление.
"Если вы постоянно видите эти ложные утверждения, которые преувеличивают популярность кандидата, они все равно могут оставаться в вашем сознании, даже если вы знаете, что они неточны, когда пролистываете их в ленте", - объяснил Питер Адамс, старший вице-президент Новостной Литературной Проекции, CNN.
Хотя наличие общедоступных инструментов AI действительно упрощает fabrication of misleading claims, including many of the fake endorsements recognized by the News Literacy Project, other misleading images circulating on social media relied on rudimentary photo editing.
Использование искусственного интеллекта для политической дезинформации "еще не столь распространено и вредно, как первоначально feared", - сказал Адамс, предполагая, что традиционные методы манипулирования изображениями и видео по-прежнему остаются недорогими, но столь же эффективными на данный момент.
СМИ усилили распространение этих ложных поддержок, сделав их значительной проблемой на рынке выборов 2024 года. Компании, такие как Meta, которой принадлежат Facebook и Instagram, сократили свой штат команд по защите выборов, что потенциально способствует распространению дезинформации.
