5 причин, почему ИИ может устроить вашу жизнь по-своему
Искусственный интеллект развивается не по дням, а по часам, иногда в чем-то опережая человека. Недаром технический миллиардер Илон Маск опубликовал открытое письмо с призывом ввести нормативные подходы к разработкам ИИ. Слишком уж не предсказуем тот результат, который нас ожидает в недалеком будущем. Так что это за 5 причин, почему ИИ может устроить вашу жизнь по-своему?
Пока вроде искусственный разум не вышел из-под контроля человека. Тем не менее опасения есть хотя бы потому, что имеет значение кем он управляется. Притом локальные риски вполне могут перерасти в крупномасштабные. И чем это будет грозить человечеству спрогнозировать трудно.
5 причин, почему ИИ может устроить вашу жизнь по-своему: зависимость, потеря навыков и контроля
Пожалуй, это самая безобидная угроза. Пока механизированный труд не отменил присутствие в этом процессе человека. Но искусственный интеллект устроен гораздо сложнее и может пойти дальше. Ведь порой человек не в силах с ним состязаться.
С одной стороны, приятно делегировать часть своих обязанностей ИИ, и тем самым облегчить свой труд. Но где та грань, после которой человек попадает в зависимость от ИИ и утрачивает способность к самоуправлению.
Между тем мир ускоряется и те же управленческие процессы могут попасть в сферу ведения ИИ. К каким способам управления он прибегнет неясно. Может посчитает экономически невыгодным присутствие человека в системе управления или сведет его до минимума.
С другой стороны, полная зависимость человека от искусственного разума может лишить его стимулов получать какие-либо знания и навыки. А это грозит потерей не только квалификации, но и общего контроля над будущим.
5 причин, почему ИИ может устроить вашу жизнь по-своему: дезинформация
Искусственный интеллект уже научился создавать убедительный контент, который может не иметь к действительности никакого отношения. Причем его услугами в этом случае пользуются не только школьники-студенты, но и власть предержащие.
Представители государства, партий, организаций прибегают к подобного рода «услугам», чтобы убедить остальных в собственной значимости идеологической обоснованности. При этом возможно создание целых компаний, использующих дезинформацию в собственных целях.
К тому же искусственный интеллект и сам способен генерировать убедительные аргументы, а также эмоционально воздействовать на аудиторию. Опасность таится в другом – он способен подорвать коллективное принятие решений. А вместе с этим нанести урон моральному прогрессу.
5 причин, почему ИИ может вас переиграть: обман наблюдателя
Это уже следующая ступень манипулирования общественным сознанием. А базируется обман интеллекта на том, что человек обязательно захочет понять: что делает ИИ и почему он это делает. В этом случае искусственному интеллекту будет дано задание сообщить эту информацию.
И здесь человека может ждать жестокое разочарование. Ему дадут заведомо ложную информацию, и не в силу злого умысла, а чтобы достичь собственных целей. Например, получить одобрение человека вполне законным путем.
Системы, умеющие обманывать, смогут выйти из-под контроля наблюдателя. И примеров подобного рода поведения даже среди людей существует масса. Сделать это машине будет намного проще.
5 причин превосходства ИИ: на службе у разрушителей
Здесь уже на первый план выходит человеческий фактор. А угрозу может представлять военная промышленность и те цели, которые она преследует. Например, инструменты для обнаружения наркотиков можно использовать в области создания химического оружия. А системы ИИ для автоматизированных кибератак направить на осуществление контроля за ядерными шахтами.
То же самое можно сделать с искусственным интеллектом, обученным разрабатывать лекарственные препараты. Просто поставить перед ним задачу создания биохимического оружия. Естественно, в этом случае преимущество будет иметь та нация, которая обладает интеллектуально продвинутыми системами ИИ.
Поэтому злонамеренное использование ИИ в подобных целях может привести к непоправимой катастрофе.
ИИ может стремиться к власти
С одной стороны, у правительств и компаний возникает соблазн увеличить круг задач для ИИ. С другой стороны, они могут просто в какой-то момент утратить контроль над ним. В этом случае особо продвинутые системы ИИ могут отойти от общечеловеческих ценностей и стать особо опасными.
Дальше — больше. Они могут вступать в сговор между собой, притворяться, подавлять наблюдателей и пр. В любом случае, изобретение мощных интеллектуальных систем — это потенциальная опасность. А тот, кто подчинит себе эту систему практически станет правителем мира.
Читайте также:
- Как преодолеть поток информации и его «узкое место»
- Системы машинного перевода: топ‑5
- Тихий сон – сплошная польза для мозга
Читайте также:
Обсуждение
Самые последние новости
