'Reckless' use of facial recognition leads to Rite Aid banned from using the technology in stores for five years
Die FTC und Rite Aid erzielten am Dienstag eine Einigung, nachdem in einer Beschwerde behauptet wurde, dass die Kette in Hunderten von Geschäften auf künstlicher Intelligenz basierende Software einsetzte, um Personen zu identifizieren, von denen Rite Aid annahm, dass sie an Ladendiebstahl oder anderen Straftaten beteiligt sein könnten „Leute“ und werfen sie aus dem Laden – oder hindern sie daran, den Laden zu betreten.
Doch mangelhafte Technologie führte dazu, dass Mitarbeiter auf falsch positive Alarme reagierten und Kunden fälschlicherweise als Kriminelle identifizierten. In einigen Fällen beschuldigte die FTC Mitarbeiter von Rite Aid, Menschen öffentlich vor Freunden, Familie und Fremden krimineller Aktivitäten beschuldigt zu haben. Die FTC sagte, einige Kunden seien zu Unrecht festgenommen und durchsucht worden.
Rite Aid sagte in einer Erklärung, dass es „erfreut sei, eine Einigung mit der FTC zu erzielen“, fügte jedoch hinzu: „Wir stimmen den Gesichtserkennungsvorwürfen in der Beschwerde der Agentur grundsätzlich nicht zu.“ Die Technologie ist ein Pilotprogramm und nur in begrenztem Umfang verfügbar Anzahl der Geschäfte. Die Tests wurden vor mehr als drei Jahren eingestellt, bevor die Federal Trade Commission eine Untersuchung einleitete.
In der Rechtsakte der FTC, die Kundenbeschwerden aus den Jahren 2012 bis 2020 enthält, heißt es, dass einige Kunden „von Mitarbeitern fälschlicherweise des Fehlverhaltens beschuldigt“ wurden, weil die Technologie von Rite Aid „Verbraucher fälschlicherweise mit Personen markierte, die zuvor als Ladendiebe identifiziert wurden.“ oder mit der Person einer anderen Person übereinstimmte. Unruhestifter. „Die FTC sagte, Gesichtserkennungssoftware werde hauptsächlich in Gemeinden mit großen schwarzen, lateinamerikanischen und asiatischen Gemeinschaften eingesetzt.
„Rite Aid hat gegen die Anordnung verstoßen, indem es rücksichtslos ein Gesichtsüberwachungssystem einsetzte, das seine Kunden Demütigungen und anderem Schaden aussetzte“, sagte Samuel Levine, Direktor des Büros für Verbraucherschutz der FTC, in einer Pressemitteilung. Dadurch werden die vertraulichen Informationen der Verbraucher gefährdet. ”
Die vorgeschlagene Anordnung bedeutet, dass Rite Aid „umfassende Sicherheitsvorkehrungen“ treffen muss, um Schaden für seine Kunden zu verhindern, wenn KI-basierte Technologie an seinen Standorten eingesetzt wird. Die Anordnung verbietet Rite Aid außerdem die Nutzung der Technologie, wenn sie „potenzielle Risiken für Verbraucher nicht kontrolliert“.
„Die Sicherheit unserer Mitarbeiter und Kunden ist von größter Bedeutung“, sagte Rite Aid. „Im Rahmen unserer Vereinbarung mit der Federal Trade Commission werden wir die Praktiken und Richtlinien unseres umfassenden Informationssicherheitsprogramms weiter verbessern und standardisieren.“
Das Pilotprogramm umfasst die Erstellung einer Datenbank mit Tausenden minderwertigen Bildern von Kundengesichtern aus Filialkameras und Mitarbeiterhandys, die als „Personen von Interesse“ gekennzeichnet wurden, weil Rite Aid glaubte, dass sie in seinen Filialen an Aktivitäten beteiligt waren. kriminelle Aktivitäten. Die FTC verlangte von Rite Aid, die Fotos zu entfernen und die Kunden darüber zu informieren, dass sie sich in der Datenbank befanden.
Da sich Rite Aid in einem Insolvenzverfahren befindet, sagte die FTC, dass ihre Anordnung nach gerichtlicher Genehmigung in Kraft treten werde.
Read also:
- Telefónica targets market launch for hologram telephony
- vzbv: Internet companies continue to cheat despite ban
- Telefónica targets market launch for hologram telephony in 2026
- Worldcoin project docks onto Telegram and Reddit
Despite the ban, Rite Aid continued to explore the use of advanced tech in their business, specifically in the form of AI-based surveillance systems. However, these systems often resulted in misidentifications, leading to false accusations and public humiliation for innocent customers.
The tech industry, including companies specializing in facial recognition, should ensure their products are reliable and avoid causing harm or infringing on privacy rights of individuals, as seen in the Rite Aid case.
Source: edition.cnn.com
