Зеленый политик против поспешного использования искусственного интеллекта в управлении

Внутренний политик от Партии зеленых Мисбах Хан считает проблематичными предложения по использованию искусственного интеллекта (ИИ) в администрации, которые обсуждаются в Бундесрате. 

«При правильном использовании искусственный интеллект может быть полезным и эффективным инструментом для упрощения и ускорения процессов, – сказала она в интервью Deutsche Presse-Agentur. Однако решения, затрагивающие судьбы людей, не должны отдаваться на откуп алгоритмам».

Предупреждение депутатов Бундестага было вызвано рекомендациями по проекту реформы Закона о доступе в Интернет и других нормативных актов по дигитализации администрации, которые будут обсуждаться в Бундесрате в эту пятницу. В рекомендациях комитетов Бундесрата говорится, что законопроект должен создать правовую основу для управления на основе данных. Это включает, среди прочего, «стандартизацию допустимости использования алгоритмического принятия решений и подготовки в государственном управлении». Ожидание европейского процесса замедлит использование искусственного интеллекта в государственном секторе Германии.

«Решения администрации должны быть понятны».

Вероятно, пройдет не менее двух лет до вступления в силу запланированных норм Европейского союза, так называемого Закона об искусственном интеллекте. В рекомендациях земель правительству Германии говорится: «Использование потенциала этой технологии для повышения эффективности административных процессов и обеспечения сотрудников государственной администрации современными рабочими инструментами» было бы предотвращено, если бы правила ЕС об искусственном интеллекте действительно ждали.

Хан предупредил, что решения государственной администрации должны быть прозрачными и понятными, а самообучающиеся системы не являются недискриминационными. Например, каждый, кто подает заявление на получение жилищного пособия, а затем получает отказ, должен иметь возможность понять, почему заявление было отклонено. «Нам бы не советовали пускаться в слепой полет, открытый технологиям», – предупреждает политик «зеленых». Процедуры государственного управления могут быть значительно ускорены и упрощены даже без использования искусственного интеллекта».