Насколько беспристрастен цифровой разум
Насколько беспристрастен цифровой разум
Представьте, что вы загружаете фотографию друзей в популярный фотосервис, а система распознавания помечает их как… горилл. Этот случай — лишь верхушка айсберга в дискуссии о том, насколько беспристрастен цифровой разум.
Читайте также: DeepSeek провалил последний экзамен человечества
Именно такой скандал и разразился вокруг Google Photos несколько лет назад, когда искусственный интеллект некорректно классифицировал фотографии афроамериканцев.
Почему машины ошибаются?
Кристиан Баукхаге из Института интеллектуального анализа и информационных систем Фраунгофера считает, что в этом нет ничего удивительного. Ведь ИИ-системы обучаются на субъективных данных и усваивают искаженный взгляд на мир.
Цифровой мир. Фото: Анастасия Милош
Проблема кроется именно в обучающих данных. Оказалось, что в базе для тренировки алгоритмов категория «человек» была представлена преимущественно фотографиями людей европеоидной расы. Фотографий темнокожих людей было критически мало — отсюда и чудовищная ошибка в классификации.
От предрассудков к предубеждениям
В 2017 году исследователи Принстонского университета под руководством Айлин Джалискан провели эксперимент, осветил еще более неприятную проблему. Они обучили бота «GloVe» на интернет-текстах, создав семантическую сеть из двух миллионов слов.
Результаты неприятно удивили научное сообщество:
- бот связывал афроамериканские имена с негативными характеристиками;
- типично «белые» имена вызывали позитивные ассоциации;
- женщины в представлении ИИ соотносились с искусством и вспомогательными ролями;
- мужчины ассоциировались с лидерством и математикой.
Зеркало человеческих предубеждений
Лингвист Йоахим Шарлот из Дрезденского технического университета тоже не удивлен. Он напоминает, что тексты пишут люди, которые сами не свободны от предрассудков.
Исследования показывают, что текстовые системы ИИ легко перенимают как явные, так и скрытые предубеждения из обучающих данных.
Это ставит перед разработчиками очень сложный вопрос о том, насколько вообще возможно создать по-настоящему объективный искусственный интеллект.
Читайте также:
- Meta создала цифрового полиглота
- Искусственный интеллект научился клонировать себя
- Экзамен по истории для ИИ: какие результаты?
Читайте также:
Обсуждение
Самые последние новости
