Совет по этике: «ИИ не должен заменить человека».

«Является ли это темное пятно на коже доброкачественным родимым пятном или раком черной кожи?». – Если поставить машину с искусственным интеллектом против врачей из плоти и крови для ответа на этот вопрос, то, по статистике, машина с искусственным интеллектом чаще оказывается права. 

Кроме того, решения ИИ не зависят от перепадов настроения человека, машинам нужны лишь секунды для анализа, и они не устают даже после многочасового использования.

Но даже если преимущества использования ИИ очевидны, Немецкий совет по этике настоятельно предостерегает от возложения на машину слишком большой ответственности. «ИИ не должен заменять человека», – заявила председатель Совета по этике Алена Буйкс.

Отношения между людьми и машинами

ИИ в медицине – одна из четырех областей, которые Совет по этике проанализировал с точки зрения взаимоотношений между людьми и машинами. Также были рассмотрены вопросы использования ИИ в школах, в сфере коммуникации и формирования общественного мнения, а также в государственном управлении. В октябре 2020 года тогдашний председатель Бундестага Вольфганг Шойбле (ХДС) попросил комитет подготовить заявление об отношениях между «человеком и машиной». На презентации 287-страничного исследования в Берлине в понедельник Буйкс подвел итог: «Использование ИИ должно расширять человеческое развитие, а не уменьшать его», – говорит специалист по медицинской этике.

Для медицинского сектора в докладе перечисляется ряд причин, по которым использование ИИ может иметь смысл: например, с помощью ИИ можно устранить узкие места в оказании медицинской помощи из-за нехватки персонала и поставить более точный диагноз. В медицине также разрабатываются инструменты ИИ для диагностики и терапии, например, при раке груди и простаты.

В то же время, однако, Совет по этике видит опасности, которые нельзя игнорировать: При разработке и использовании продуктов ИИ необходимо избегать потери медицинской компетентности. Приватность пациентов должна быть согласована с интенсивным использованием данных в медицинских исследованиях. Полная замена врачей системой ИИ поставит под угрозу благополучие пациентов и не может быть оправдана нехваткой персонала.

Обсуждение использования в школах

В области образования члены Совета по этике довольно противоречиво обсуждали вопрос о том, следует ли вообще запретить использование ИИ в школах или нет. В частности, речь шла о том, допустимо ли записывать на видео происходящее в классе, чтобы с помощью ИИ анализировать, как учатся отдельные ученики.

Хотя некоторые члены Совета по этике в принципе отвергли такую форму «классной аналитики», другие увидели в ней возможности, поскольку она может обеспечить учителям постоянную обратную связь и значительно улучшить результаты обучения. В качестве компромисса они согласовали позицию, согласно которой сбор и предоставление данных должны служить процессу обучения. «Нельзя злоупотреблять ими для контроля и стигматизации учащихся», – сказал Джулиан Нида-Рюмелин, заместитель председателя Немецкого совета по этике.

Совет по этике также преимущественно критически относится к роли ИИ в общественной коммуникации и формировании общественного мнения. В социальных сетях усилилась поляризация и огрубление дискурса, сетует Нида-Рюмелин. Часто из «белого шума» сетей можно выделить только людей с особенно экстремальными взглядами. 

Facebook и Twitter

Бывший государственный министр культуры также обвинил в этом коммерческий интерес таких платформ, как Facebook и Twitter, в том, чтобы удержать пользователей как можно дольше. По его словам, это достигается с помощью персонализированных предложений, которые подстраиваются под получателей с помощью искусственного интеллекта. 

Однако ИИ также используется для модерации проблемного или даже преступного контента. Это создает противоречие между свободой самовыражения и гражданской культурой общения, которое решается в руках частных цифровых компаний по их собственным правилам, сказал Нида-Рюмелин. 

В этот момент Совет по этике выдвигает альтернативу общественной службы, чтобы не оставлять этот вопрос на усмотрение частных коммерческих групп. «Мы не имеем в виду общественных вещателей», – сказал Нида-Рюмелин. Возможны модели общественно-правовых фондов без особого влияния государства».

В государственном управлении ИИ все чаще используется для поддержки принятия решений и обеспечения большей эффективности, сообщила Джудит Саймон, профессор этики информационных технологий в Гамбургском университете. Однако пока не доказано, что его использование обязательно приводит к принятию более эффективных решений. Совет по этике стремится защитить граждан от дискриминации. Рекомендациям машин не следует слепо следовать. Кроме того, должны быть гарантированы рассмотрение каждого конкретного случая и права тех, кого это касается, на проверку и возражения. 

Это также относится к использованию ИИ для повышения внутренней безопасности. «Если программа предсказывает, что человек с вероятностью 99 процентов совершит преступление, мы никогда не можем знать, является ли человек перед нами именно этим одним процентом».

Министр исследований Беттина Штарк-Ватцингер (СвДП) сказала, что Совет по этике иллюстрирует «многообразный потенциал и возможности», связанные с использованием искусственного интеллекта в ключевых областях социального применения. «Мы абсолютно точно должны их использовать». В то же время, доклад дает ориентиры, как можно противостоять возможным рискам, таким как дискриминация при использовании ИИ.

Ассоциация ИИ отнеслась к докладу более критически: В нем недостаточно подробно рассматриваются положительные эффекты ИИ, пояснил Даниэль Аббу, управляющий директор ассоциации. Игнорируются возможности, которые ИИ будет иметь в экономическом контексте, особенно в отношении нехватки квалифицированных работников.