Правительство США запускает публичные консультации по программному обеспечению ИИ

Правительство США делает следующий шаг к возможным мерам регулирования программного обеспечения на основе искусственного интеллекта, такого как популярный в настоящее время чатбот ChatGPT. Управление информационных технологий NTIA запускает публичную консультацию по возможным мерам. Результаты должны помочь в разработке рекомендаций по политике, как сообщил глава NTIA Алан Дэвидсон в интервью «Wall Street Journal» во вторник.

Программы ИИ впечатляют даже на ранних стадиях своего развития, подчеркнул Дэвидсон. «Мы знаем, что нам необходимо установить некоторые ограждения, чтобы убедиться, что они используются ответственно». Среди обсуждаемых вопросов – сертификация программного обеспечения перед его выпуском в продажу.

Дезинформация

Текстовый автоматизатор ChatGPT, конкурирующая с Google программа Bard, и программы, которые могут генерировать изображения на основе текстовых описаний, вызывают сейчас большой ажиотаж. В то же время существуют опасения, что их возможности используются, например, для производства и распространения ложной информации. Недавно такие опасения были усилены, например, искусственно созданной фотографией Папы Римского и серией сгенерированных ИИ изображений якобы арестованного экс-президента Дональда Трампа.

ChatGPT формулирует тексты, оценивая слово за словом вероятное продолжение предложения. Одним из последствий этого процесса в настоящее время является то, что он придумывает совершенно ложную информацию в дополнение к правильной – но для пользователя разница не заметна.

Правительство США уже некоторое время занимается вопросом возможного регулирования программного обеспечения искусственного интеллекта. В начале месяца президент США Джо Байден обсудил с экспертами возможности и риски таких программ. Когда после этого журналисты спросили его, опасен ли ИИ с его точки зрения, он ответил, что это еще неизвестно. «Очень может быть».