Насколько опасным становится искусственный интеллект
Насколько опасным становится искусственный интеллект
Во время Второй мировой войны в Блетчли-парке, расположенном к северу от Лондона, британцы пытались расшифровать сообщения, поступавшие от вражеских государств.
Теперь британское правительство организует там международный саммит, чтобы обсудить опасности искусственного интеллекта. Сегодня там встречаются:
- Министр экономики Германии Роберт Хабек;
- Вице-президент США Камала Харрис и другие политики.
- Приедут представители ряда компаний, в том числе миллиардер Илон Маск.
Чему посвящен саммит?
Премьер-министр Великобритании Риши Сунак объявил о намерении обсудить опасность новых технологий.
Он сравнил будущее влияние искусственного интеллекта (ИИ) на мир с промышленной революцией, открытием электричества или изобретением Интернета.
Сунак хочет обсудить возможные риски с государствами и компаниями. В то же время он использует эту кампанию для продвижения Великобритании как места для ведения бизнеса.
Yesterday, we agreed the first ever international statement on the risks around AI.
Today, I’m at @bletchleypark to discuss the global priorities for AI in the next five years, as well as what action is needed to ensure AI develops safely so it can be a force for good. pic.twitter.com/nQW6fnxLR9
— Rishi Sunak (@RishiSunak) November 2, 2023
Насколько опасным становится искусственный интеллект?
В своем документе правительство Сунака предупреждает о различных сценариях развития событий.
Опасным группам может стать проще совершать мошенничество, планировать кибератаки или влиять на общество с помощью ложной информации. В принципе, террористам может стать проще разрабатывать биологическое или химическое оружие, но для этого им все равно придется добывать необходимые вещества.
В ближайшие полтора года ИИ скорее увеличит существующие риски, но не создаст совершенно новых сценариев угроз.
Могут ли компьютеры уничтожить человечество?
В крайнем случае – по крайней мере, по мнению Сунака – существует опасность того, что человечество может потерять контроль над ситуацией с помощью своего рода искусственного сверхинтеллекта.
Но сейчас не стоит лишать людей сна: некоторые эксперты считают, что этого не произойдет: «Но как бы ни были неопределенны и маловероятны эти риски, если бы они возникли, последствия были бы чрезвычайно серьезными».
Некоторые исследователи полагают, что излишнее внимание к экзистенциальному риску является ошибочным. Это «опасное отвлечение от дискуссий, которые мы должны вести о регулировании ИИ», – заявила, например, Мхайри Эйткен из Института Алана Тьюринга порталу «Politico».
Саша Костанза-Чок из Центра Беркмана-Кляйна при Гарвардском университете и организации Algorithmic Justice League придерживается аналогичной точки зрения: «Нам нужно исправить уже нанесенный ущерб».
По ее словам, главная мысль заключается не в том, что ИИ может однажды нас убить, а в том, что люди в учреждениях уже используют ИИ для нанесения ущерба. Критики видят серьезные проблемы, например:
- В защите данных;
- Авторских прав;
- Дискриминации людей алгоритмами.
- Некоторые критикуют условия труда людей, обучающих ИИ.
Некоторые призывают к повышению ответственности компаний. С развитием социальных сетей государственный контроль стал относительно слабым, предупредил Эндрю Рогойски из Университета Суррея на конференции британской партии Тори в Манчестере. Это негативно сказалось на психическом здоровье. «Подобная ошибка не должна повториться».
Неужели нет никаких правил?
Политики начинают принимать меры.
В США президент Джо Байден хочет минимизировать риски от программного обеспечения искусственного интеллекта (ИИ) с помощью законодательной базы.
Вышедший в понедельник президентский указ предусматривает, в частности, что в случае программ, которые потенциально могут представлять угрозу национальной безопасности, экономике или здравоохранению, разработчики должны информировать правительство США уже на этапе обучения моделей ИИ. Они также должны будут делиться с властями результатами тестов на безопасность.
Европейский союз хочет создать правовую базу для регулирования технологий с помощью стратегии ИИ.
Сунак предостерегает от преждевременного регулирования: нельзя устанавливать законы, когда еще не знаешь, как что-то работает. Своим саммитом Сунак хочет привлечь внимание к Великобритании как к важному игроку и месту, однако сомнительно, что из этой встречи удастся извлечь много пользы.
Посмотреть эту публикацию в Instagram
На какие компании следует обратить внимание?
В последние месяцы особую известность приобрела компания OpenAI, разработавшая чат-бота ChatGPT. Программа способна формировать предложения на уровне языка человека. Для этого она просчитывает слово за словом, как может продолжаться предложение. Для того чтобы это работало, такие программы обучаются на огромных объемах текстов и информации.
Помимо многочисленных стартапов, важную роль в развитии ИИ играют такие богатые технологические компании, как:
- Google;
- Amazon;
- Microsoft;
- Meta;
- Apple.
Что может ИИ уже сегодня? И какую пользу он может принести?
Программное обеспечение для искусственного интеллекта уже повсеместно распространено – но в основном это узкоспециализированные задачи.
Это и улучшение изображений, и автокоррекция, и чат-боты, которые постепенно используются вместо горячих линий, и здравоохранение, например, для анализа симптомов.
Министр цифровых технологий Германии Фолькер Виссинг считает, что необходимо видеть как возможности, так и риски. В противном случае, по его словам, мы потеряем связь:
«Вместе с нашими ценностными партнерами мы должны установить стандарты, которые станут основой для новой индустрии».
„Europa muss sich bei #genAI nicht verstecken. Im Gegenteil: Wir spielen vorn mit. Nun kommt es auf kluge Regulierung an, die international abgestimmt sein muss, wie #G7 #CoC, den 🇩🇪 mit 🇺🇸 voranbringen konnte“, so @Wissing im Pressegespräch mit @JonasAndrulis von @Aleph__Alpha pic.twitter.com/ZBYBKWocYt
— BMDV (@bmdv) November 1, 2023
Почему в немецких СМИ про ИИ иногда пишут аббревиатуру KI, а иногда AI?
Это всего лишь вопрос перевода.
- В немецком языке это называется Künstlicher Intelligenz (KI),
- В английском – Artificial Intelligence (AI).
Англичане определяют его как способность машин достигать определенной цели путем реализации когнитивных способностей.
Чего может достичь вершина?
Это спорный вопрос.
Саммит Сунака выглядит профессионально, пишет леволиберальная газета «Гардиан». Но если присмотреться повнимательнее, то следует бить тревогу. Сунак выставляет себя в качестве лидера, в то время как в своей стране он находится под давлением из-за низких рейтингов.
В открытом письме несколько критиков жалуются на то, что на встречу было приглашено слишком мало представителей гражданского общества. Вместо этого, по их словам, мероприятие проходило за закрытыми дверями и сводилось к рассуждениям о существовании рисков, связанных с системами, созданными теми самыми компаниями, которые теперь хотят влиять на их регулирование.
Читайте также:
- Когда искусственный интеллект будет делать за меня покупки
- Земля хочет использовать искусственный интеллект в процедурах согласования
- Знаменитости, Италия и искусственный интеллект: второй день Франкфуртской книжной ярмарки
Читайте также:
Обсуждение
Самые последние новости
