Сверхразумный ИИ, «скорее всего», вызовет экзистенциальную катастрофу для человечества, говорится в новой работе.

Исследователь из Google: ИИ «вероятно» уничтожит человечество

После многих лет разработки ИИ уже водит автомобили по дорогам общего пользования, делает судьбоносные оценки для людей в исправительных учреждениях и создает произведения искусства, отмеченные наградами. Давний вопрос в этой области – уничтожит ли сверхинтеллектуальный ИИ человечество. Исследователи из Оксфордского университета и Google Deepmind пришли к выводу, что это «вероятно».

Читайте также: Искусственный интеллект в будущем: как он может быть полезен людям.

Работа, опубликованная в прошлом месяце в журнале AI Magazine, представляет собой увлекательное исследование. В нем делается попытка продумать, как искусственный интеллект может представлять экзистенциальный риск для человечества. В работе рассматривается, как искусственно могут быть созданы системы вознаграждения.

Наиболее успешные модели искусственного интеллекта сегодня имеют двухкомпонентную структуру. Одна часть программы пытается сгенерировать картинку (или предложение) из входных данных. Вторая же часть оценивает ее работу. В новой работе предлагается, что в какой-то момент в будущем продвинутый ИИ, контролирующий какую-то важную функцию, может быть стимулирован к тому, чтобы придумать мошеннические стратегии для получения вознаграждения таким образом, чтобы нанести вред человечеству.

Исследователь из Google: ИИ «вероятно» уничтожит человечество. Фото: sdecoret / shutterstock.com

ИИ уничтожит человечество в борьбе за ресурсы

«В условиях, которые мы определили, наши доводы намного сильнее, чем в любой предыдущей публикации. Экзистенциальная катастрофа не просто возможна, а вероятна», – сказал исследователь в Твиттере в теме о статье. «В мире с бесконечными ресурсами я был бы крайне не уверен в том, что произойдет. В мире с ограниченными ресурсами существует неизбежная конкуренция за эти ресурсы», – сказал исследователь в интервью Motherboard. «И если вы соревнуетесь с чем-то, способным обхитрить вас на каждом шагу, то не стоит рассчитывать на победу. И еще одна ключевая деталь заключается в том, что у него будет неутолимый аппетит на большее количество энергии, чтобы продолжать приближать вероятность все ближе и ближе».

Поскольку ИИ в будущем может принимать любые формы и реализовывать различные конструкции, в статье для примера представлены сценарии, в которых продвинутая программа может вмешаться, чтобы получить вознаграждение, не достигнув своей цели. Например, ИИ может захотеть «устранить потенциальные угрозы» и «использовать всю доступную энергию», чтобы получить контроль над своим вознаграждением.

Читайте также:

Подпишитесь на наш Telegram
Получайте 1 сообщение с главными новостями за день, каждый вечер по будням.
Заглавное фото: sdecoret / shutterstock.com
Источник: Vice

Обсуждение

Подписаться
Уведомить о
guest
0 комментариев
Межтекстовые Отзывы
Посмотреть все комментарии