Руководитель ChatGPT изобретатель для регулирования искусственного интеллекта

Компания OpenAI сыграла важную роль в том, чтобы спровоцировать нынешнюю шумиху вокруг искусственного интеллекта, создав текстовый автомат ChatGPT. Но глава компании также выражает обеспокоенность и предлагает ряд мер.

Сэм Альтман

Глава компании-изобретателя ChatGPT OpenAI видит риск распространения дезинформации с помощью искусственного интеллекта – и высказался за строгое регулирование. Просто потому, что требуются огромные ресурсы, будет лишь несколько компаний, которые смогут стать пионерами в обучении моделей ИИ, сказал Сэм Альтман во вторник на слушаниях в Сенате США в Вашингтоне. Они должны будут находиться под строгим надзором.

Компания Альтмана OpenAI сыграла важную роль в возникновении нынешней шумихи вокруг ИИ, создав текстовый автомат ChatGPT и программное обеспечение, способное генерировать изображения на основе текстовых описаний.

ChatGPT формулирует тексты, оценивая вероятное продолжение предложения слово за словом. В настоящее время одним из последствий этой процедуры является то, что программа придумывает совершенно неправильную информацию в дополнение к правильной – но для пользователя разница не заметна. Поэтому есть опасения, что ее возможности могут быть использованы, например, для производства и распространения ложной информации. Альтман также выразил это опасение на слушаниях.

Альтман предлагает создать новое правительственное агентство

Альтман предложил создать новое правительственное агентство, которое сможет подвергать модели ИИ испытаниям. Искусственный интеллект должен пройти ряд тестов на безопасность – например, может ли он распространяться самостоятельно. Компании, которые не соответствуют установленным стандартам, должны лишаться лицензии. Системы искусственного интеллекта также должны иметь возможность быть протестированы независимыми экспертами.

Альтман признал, что технология ИИ в будущем может привести к ликвидации некоторых рабочих мест за счет автоматизации. В то же время, однако, у нее есть потенциал для создания «гораздо лучших рабочих мест».

Во время слушаний в подкомитете Сената Альтман не исключил возможности того, что программы OpenAI со временем также будут доступны за счет рекламы, а не по подписке, как это происходит в настоящее время.