Из-за «безрассудного» использования системы распознавания лиц компании Rite Aid было запрещено использовать эту технологию в магазинах в течение пяти лет
Из-за «безрассудного» использования системы распознавания лиц компании Rite Aid было запрещено использовать эту технологию в магазинах в течение пяти лет
Во вторник FTC и Rite Aid заключили мировое соглашение после того, как в жалобе сеть обвинила ее в использовании в сотнях магазинов программного обеспечения на основе искусственного интеллекта для выявления людей, которых Rite Aid «сочла способными совершить кражу или другое преступное поведение», и выдворяла их из магазинов – или не позволяла им зайти внутрь.
Но несовершенная технология заставляла сотрудников действовать в соответствии с ложноположительными сигналами, которые ошибочно идентифицировали покупателей как преступников. В некоторых случаях FTC обвиняла сотрудников Rite Aid в том, что они публично обвиняли людей в преступной деятельности на глазах у друзей, родственников и незнакомых людей. Некоторые покупатели были ошибочно задержаны и подвергнуты обыску, заявила FTC.
В заявлении Rite Aid говорится, что компания «рада заключить соглашение» с FTC, но при этом добавляется, что «мы в корне не согласны с утверждениями о распознавании лиц, содержащимися в жалобе агентства». Технология была пилотной программой и использовалась только в «ограниченном количестве магазинов». Тестирование было прекращено более трех лет назад, еще до начала расследования FTC.
В юридическом документе FTC, содержащем жалобы клиентов с 2012 по 2020 год, говорится, что некоторые покупатели были «ошибочно обвинены сотрудниками в правонарушениях», поскольку технология Rite Aid «ложно отметила потребителей как совпадающих с теми, кто ранее был идентифицирован как магазинный вор или другой нарушитель порядка». Программное обеспечение для распознавания лиц в основном использовалось в районах, где проживает большое количество чернокожих, латиноамериканцев и азиатов, говорится в сообщении FTC.
«Безрассудное использование компанией Rite Aid систем слежения за лицами привело к тому, что ее клиенты столкнулись с унижениями и другими неприятностями, а нарушение предписания поставило под угрозу конфиденциальную информацию потребителей», – заявил в своем релизе Сэмюэл Левин, директор Бюро по защите прав потребителей FTC.
Предложенное постановление означает, что Rite Aid должна будет «внедрить комплексные меры предосторожности», чтобы не навредить своим клиентам при внедрении технологии на основе искусственного интеллекта в своих точках. Приказ также запрещает Rite Aid использовать технологию, если она «не может контролировать потенциальные риски для потребителей».
«Безопасность наших сотрудников и покупателей имеет первостепенное значение», – заявили в Rite Aid. «В рамках соглашения с FTC мы продолжим совершенствовать и формализовать практику и политику нашей комплексной программы информационной безопасности».
Пилотная программа включала в себя создание базы данных из тысяч низкокачественных фотографий с камер магазинов и телефонов сотрудников с лицами покупателей, которые были помечены как «лица, представляющие интерес», поскольку Rite Aid считала, что они занимаются преступной деятельностью в своих магазинах. FTC требует от Rite Aid удалить эти фотографии и уведомить покупателей о том, что они находятся в базе данных.
Поскольку Rite Aid находится в процессе банкротства, FTC заявила, что ее предписания вступят в силу после утверждения в суде.
Читайте также:
- Неограниченные забастовки немецких поездов
- Что ждет немецкий рынок труда в 2024 году
- Фермеры протестуют в Берлине на сотнях тракторов
Источник: edition.cnn.com
Читайте также:
Обсуждение
Самые последние новости
