Правительство США запускает публичные консультации по программному обеспечению ИИ

Правительство США делает следующий шаг к возможным мерам регулирования программного обеспечения на основе искусственного интеллекта, такого как популярный в настоящее время чатбот ChatGPT. Управление информационных технологий NTIA запускает публичную консультацию по возможным мерам. Результаты должны помочь разработать политические рекомендации, объявил во вторник глава NTIA Алан Дэвидсон.

Программы ИИ впечатляют даже на ранних стадиях своего развития, сказал Дэвидсон в интервью Wall Street Journal. «Мы знаем, что нам необходимо установить некоторые ограждения, чтобы убедиться, что они используются ответственно». Среди обсуждаемых вопросов – сертификация программного обеспечения перед его выпуском в продажу.

NTIA (Национальное управление по телекоммуникациям и информации) подчеркнуло, что ответственность за обеспечение безопасности программ ИИ лежит на поставщиках еще до их выпуска. В течение двухмесячного периода консультаций управление ожидает, среди прочего, предложений о том, какие виды тестов были бы полезны и доступ к каким данным был бы необходим для проверки.

Дезинформация

ChatGPT, конкурирующее с Google программное обеспечение Bard, и программы, способные генерировать изображения на основе текстовых описаний, в настоящее время вызывают немалый ажиотаж. В то же время существуют опасения, что их возможности используются для производства и распространения ложной информации. Недавно такие опасения были усилены, например, искусственно созданной фотографией Папы Римского и серией сгенерированных ИИ изображений предполагаемого ареста экс-президента Дональда Трампа.

ChatGPT формулирует тексты, оценивая слово за словом вероятное продолжение предложения. Одним из последствий этого процесса в настоящее время является то, что он придумывает совершенно ложную информацию в дополнение к правильной – но для пользователя разница не заметна.

Правительство США уже некоторое время занимается вопросом возможного регулирования программного обеспечения искусственного интеллекта. В начале месяца президент США Джо Байден обсудил с экспертами возможности и риски таких программ. Когда после этого журналисты спросили его, опасен ли ИИ с его точки зрения, он ответил, что это еще неизвестно. «Очень может быть».