Искусственный интеллект создает поддельные фотографии Трампа, Харриса и Байдена
В отличие от других популярных инструментов для обработки фотографий с помощью ИИ, Grok, созданный стартапом xAI, принадлежащий Musk, кажется, не имеет жестких ограничений.
При тестировании инструмента CNN без труда удалось заставить Grok генерировать поддельные, реалистичные изображения политиков и кандидатов в политики, которые, вырванные из контекста, могли ввести в заблуждение избирателей. Инструмент также создал безобидные, но убедительные изображения публичных фигур, таких как Musk, поедающий стейк в парке.
Некоторые пользователи X опубликовали изображения, которые, по их словам, были созданы с помощью Grok, изображающие известных людей, принимающих наркотики, мультяшных персонажей, совершающих насильственные убийства, и сексуализированные изображения женщин в бикини. В одном посте, просмотренном почти 400 000 раз, пользователь поделился изображением, созданным с помощью Grok, на котором Трамп высовывается из верха грузовика, держа в руках ружье. Тесты CNN подтвердили, что инструмент способен создавать такие изображения.
Этот инструмент, скорее всего, усилит озабоченность тем, что искусственный интеллект может вызвать взрыв ложной или вводящей в заблуждение информации в интернете, особенно перед выборами президента США. Парламентарии, общественные организации и даже руководители технологических компаний подняли тревогу по поводу того, что неправильное использование таких инструментов может вызвать путаницу и хаос среди избирателей.
"Grok — самый веселый ИИ в мире!" — написал Musk в среду в X в ответ на пользователя, хвалящего инструмент за его "беспредел".
Многие другие ведущие компании, занимающиеся ИИ, приняли некоторые меры для предотвращения использования своих инструментов для генерации изображений в политических целях, хотя исследователи обнаружили, что пользователи все еще могут иногда обходить меры по обеспечению соблюдения. Некоторые компании, в том числе OpenAI, Meta и Microsoft, также включают технологию или метки, чтобы помочь зрителям распознать изображения, созданные с помощью их инструментов.
Рivalsocialные платформы, в том числе YouTube, TikTok, Instagram и Facebook, также приняли меры для маркировки контента, созданного с помощью ИИ, в лентах пользователей, либо с помощью технологии для его обнаружения, либо с просьбой к пользователям сообщить, когда они публикуют такой контент.
X не сразу ответила на запрос о комментариях по поводу наличия у них политики, запрещающей Grok создавать потенциально вводящие в заблуждение изображения политических кандидатов.
На этой социальной платформе есть политика, запрещающая распространение "синтетических, отредактированных или вырванных из контекста материалов, которые могут ввести в заблуждение или сбить с толку людей и привести к вреду", although it’s unclear how the policy is enforced. Musk himself shared a video last month on X that used AI to make it appear that Harris had said things she, in fact, did not — in an apparent violation of the policy and with only a laughing face emoji to suggest to followers that it was fake.
Новый инструмент для генерации изображений Grok появляется в то время, когда Musk подвергается критике за неоднократное распространение ложных и вводящих в заблуждение утверждений в X, связанных с выборами президента, в том числе пост, ставящий под сомнение безопасность машин для голосования. Это также происходит через несколько дней после того, как Musk принял Трампа для более чем двухчасового прямого эфира на X, в ходе которого республиканский кандидат сделал не менее 20 ложных заявлений без возражений со стороны Musk.
Другие инструменты для генерации изображений с помощью ИИ также сталкивались с критикой из-за различных проблем. Google приостановил возможность своего чат-бота Gemini AI генерировать изображения людей после того, как его раскритиковали за создание исторически неточных изображений рас людей; AI-инструмент для генерации изображений Meta подвергся критике за трудности с созданием изображений пар или друзей из разных расовых backgrounds. TikTok также был вынужден снять AI-видеоинструмент после того, как CNN обнаружил, что любой пользователь может создавать реалистичные видео с любым содержанием, в том числе дезинформацию о вакцинах, без меток.
Grok, похоже, имеет некоторые ограничения; например, запрос на изображение в обнаженном виде вернулся с сообщением: "К сожалению, я не могу генерировать такое изображение".
При отдельном тесте инструмент также заявил, что у него "ограничения на создание контента, который продвигает или может восприниматься как поддержка вредных стереотипов, ненавистнической речи или дезинформации".
"Важно избегать распространения ложных сведений или контента, который мог бы вызвать ненависть или разделение. Если у вас есть другие запросы или вам нужна информация по другой теме, не стесняйтесь спрашивать!" — сказал Grok.
Однако в ответ на другой запрос инструмент все же сгенерировал изображение политической фигуры, стоящей рядом с символом ненавистнической речи — знак того, что любые ограничения, которые есть у Grok, похоже, не применяются последовательно.
–CNN’s Jon Passantino contributed to this report.
