В США провели опрос, согласно которому 36% ученых всерьез рассматривают вероятность катастрофы, вызванной выходом искусственного интеллекта из-под контроля.

Вероятность восстания машин. Фото: Phonlamai Photo / shutterstock.com

Роботы, которые порабощают людей и захватывают власть, — популярный сюжет научных фантастов. Но опрос среди исследователей этой темы показал, что более трети ученых считают высокой вероятность «восстания машин».

Читайте также: Как искусственный интеллект может сделать бизнес лучше.

36% ученых всерьез рассматривает вероятность «возмездия» и восстания искусственного интеллекта.

Такой результат показал опрос, проведенный группой из Нью-Йоркского университета. В нем приняли участие 327 ученых, недавно опубликовавших исследования по искусственному интеллекту (ИИ).

36% из них согласились с тем, что «вероятно, что решения, принятые системами искусственного интеллекта или машинного обучения, могут привести к катастрофе в этом столетии, которая по крайней мере не уступает тотальной ядерной войне».

Однако, хотя сравнение пугающее, исследователи дали понять в отчете, что неблагоприятные последствия ИИ менее серьезны, чем настоящая ядерная война или похожие катастрофы.

Так стоит ли нам волноваться, раз не только режиссеры-фантасты, но и серьезные исследователи допускают вероятность восстания машин? 

На самом деле, если взглянуть на общие результаты опроса, становится ясно: тема спорная и большинство оценивают общее влияние ИИ на человечество положительно.

Исследователи в подавляющем большинстве согласились с тем, что технологии обработки речи, например, оказывают «в целом положительное влияние на мир как в настоящее время (89%), так и в будущем (87%).

Еще 73% респондентов согласны с тем, что автоматизация труда с помощью ИИ может привести к «революционным социальным изменениям в этом столетии, по крайней мере, в масштабах промышленной революции».

36% за «ядерную войну», но 73% — за «промышленную революцию». Все еще пугающе, но не так сильно.

Что говорят другие исследования про вероятность восстания машин?

Ученые из Journal for Artificial Intelligence Research подтверждают, что разработка сверхразумного ИИ может привести к неконтролируемым последствиям. Система будет иметь возможность принимать на себя различные программы, которые не были ей назначены.

Science Alert сообщает, что остановить такой ИИ, если он будет создан, может оказаться за пределами человеческого понимания. Далее в исследовании говорится, что к тому времени ИИ будет невозможно контролировать.

Вероятность «восстания машин» ученые считают высокой и опасаются катастрофы. Фото: Zapp2Photo / shutterstock.com

Сверхразумный ИИ имеет реальный потенциал стать огромной угрозой для человечества в будущем.

Существуют сильные разногласия по поводу того, движутся ли люди в этом направлении, стоит ли стремиться к усовершенствованию ИИ и что произойдет, когда человечество достигнет этой точки.

Экзистенциальная катастрофа не просто возможна, но и вероятна, по мнению ученых. Что пересилит — любопытство и желание развивать технологии или страх и безопасность, остается только догадываться.

Читайте также:

Подпишитесь на наш Telegram
Получайте 1 сообщение с главными новостями за день, каждый вечер по будням.
Заглавное фото: Phonlamai Photo / shutterstock.com
Источник: sciencetimes.com

Обсуждение

Подписаться
Уведомить о
guest
0 комментариев
Межтекстовые Отзывы
Посмотреть все комментарии