Experten fordern mehr Vielfalt zur Bekämpfung von Vorurteilen in der künstlichen Intelligenz
"Ich habe in den letzten 25 Jahren an vielen KI-Projekten gearbeitet, und nicht mehr als zwei [meiner Kollegen] sahen aus wie ich", sagte Lawrence, der schwarz ist.
Künstliche Intelligenz verspricht eine rasche Umgestaltung unserer Gesellschaft, aber mit diesem Versprechen, so Lawrence, geht die Herausforderung einher, Vorurteile, die in der neuen Technologie kodiert sein können, zu bekämpfen und abzubauen.
Lawrence ist Autor des Buches "Hidden in White Sight", in dem er untersucht, wie KI zu systemischem Rassismus beiträgt.
KI basiert auf den Daten, auf denen sie aufbaut, und diese Daten können mitunter rassistisch, sexistisch und fehlerhaft sein.
Im August verklagte eine schwarze Mutter in Detroit die Stadt, nachdem sie behauptet hatte, im achten Monat zu Unrecht verhaftet worden zu sein, weil Beamte sie mit Hilfe von Gesichtserkennungstechnologie mit einem Verbrechen in Verbindung brachten. Der Polizeichef von Detroit gab später "schlechter Ermittlungsarbeit" die Schuld.
In einer Studie aus dem Jahr 2022 wurde festgestellt, dass ein von einer künstlichen Intelligenz trainierter Roboter schwarze Männer eher mit Kriminellen und Frauen eher mit Hausfrauen in Verbindung brachte. Das Forscherteam kam zu dem Schluss, dass der fortgesetzte Einsatz dieser Technologie die Gefahr bösartiger Stereotypen" birgt, die Rassismus und Frauenfeindlichkeit schüren.
In New York City hat die örtliche Gesundheitsbehörde kürzlich eine Koalition gegründet, die gegen klinische Algorithmen vorgeht, bei denen die Rasse eine Rolle spielt, weil die Ergebnisse für farbige Menschen oft schädlich sind. Es hat sich gezeigt, dass diese Algorithmen den Gesundheitszustand farbiger Menschen überbewerten, heißt es in einer Erklärung des New York City Department of Health and Mental Hygiene, was zu einer Verzögerung der Behandlung führen kann.
In einer Erklärung, die CNN vorliegt, sagte ein Sprecher von OpenAI, dem Unternehmen, das hinter ChatGPT und anderen Modellen der künstlichen allgemeinen Intelligenz (AGI) steht, dass Voreingenommenheit ein wichtiges Thema in der gesamten Branche sei und OpenAI sich der "Erforschung und Reduzierung von Voreingenommenheit und anderen Risiken in unseren Modellen" widme.
"Wir arbeiten kontinuierlich an unseren Modellen, um Verzerrungen zu reduzieren und schädliche Ergebnisse abzuschwächen", sagte das Unternehmen in einer Erklärung und fügte hinzu, dass OpenAI für jedes neue Modell, das veröffentlicht wird, Untersuchungen darüber veröffentlicht, wie sie daran arbeiten, diese Ziele zu erreichen.
Der beste Weg, um sicherzustellen, dass KI die Erfahrungen farbiger Menschen widerspiegelt, ist laut Lawrence, dafür zu sorgen, dass sie beschäftigt und in jeden Schritt des Prozesses einbezogen werden.
"Es gibt sicherlich nicht viele Schwarze oder Datenwissenschaftler, die an der Entwicklung und dem Design von KI-Lösungen beteiligt sind", sagte er. "Der einzige Weg, sie an den Tisch zu bekommen, besteht darin, sie zu schulen."
Erhöhung der Vielfalt
Studien haben ergeben, dass der Mangel an Vielfalt und Repräsentation in Technologiebereichen schon lange vor dem Studium beginnt. Laut einem Bericht der Code.org Advocacy Coalition aus dem Jahr 2023 haben farbige Schüler im Allgemeinen weniger Zugang zu grundlegenden Informatikkursen in der High School.
Während 89 % der asiatischen Schüler und 82 % der weißen Schüler Zugang zu diesen Kursen hatten, hatten 78 % der schwarzen und hispanischen Schüler und 67 % der amerikanischen Ureinwohner das gleiche Privileg.
"Diese Möglichkeiten sind nicht gleichmäßig verteilt, und das ist ein Problem", sagte Andres Lombana-Bermudez, Mitarbeiter am Berkman Klein Center for Internet and Society der Harvard University.
Diese Ungleichheit beim Zugang kann auch dazu führen, dass weniger farbige Menschen Informatik und künstliche Intelligenz auf Hochschulebene studieren, so Lombana-Bermudez.
Laut der Taulbee-Umfrage der Computing Research Association aus dem Jahr 2022 wurden mehr als zwei Drittel aller Doktortitel in den Bereichen Informatik, Computertechnik oder Information in den Vereinigten Staaten an Personen mit nicht ständigem Wohnsitz in den USA vergeben, für die keine ethnische Zugehörigkeit vorliegt.
Fast 19 % der Abschlüsse gingen an weiße Doktoranden und 10,1 % an asiatische Kandidaten, verglichen mit nur 1,7 % für hispanische und 1,6 % für schwarze Absolventen.
Lawrence sagte, er glaube, dass eine Diversifizierung im Bereich der künstlichen Intelligenz die Technologie sicherer und ethischer machen könne.
Lawrence sagte, er habe die gemeinnützige Organisation AI 4 Black Kids ins Leben gerufen, die sich dafür einsetzt, schwarze Kinder von klein auf über künstliche Intelligenz und maschinelles Lernen aufzuklären, in der Hoffnung, dass eines Tages mehr Menschen in diesem Bereich vertreten sind.
"KI wird auf der Grundlage so weniger historischer Gesichtspunkte trainiert ... mein Ziel ist es, dass mehr schwarze Menschen an diesem Prozess beteiligt sind", sagte er.
Die gemeinnützige Organisation bietet Mentorenprogramme für Kinder im Alter von 5 bis 19 Jahren sowie Stipendien und College-Beratung an, so Lawrence.
Die Bekämpfung von Vorurteilen in der künstlichen Intelligenz erfordert nicht nur eine größere rassische Vielfalt, sondern auch eine Vielfalt des Denkens, sagte Lombana-Bermudez. Er ermutigt dazu, Soziologen, Juristen, Politikwissenschaftler und andere geisteswissenschaftlich orientierte Akademiker einzustellen, um einen Beitrag zur Diskussion über KI und Ethik zu leisten.
Lombana-Bermudez sagte, er hoffe, dass künftige Generationen einige der Probleme der Voreingenommenheit und Unzugänglichkeit mildern könnten, da sie mit der Technologie aufwachsen würden.
"Ich bin zuversichtlich, dass sich dies ändern wird und wir in Zukunft bessere Technologien haben werden", sagte er. "Aber es ist ein Kampf, und es ist nicht einfach. Es ist komplex."
Lesen Sie auch:
- Kein Weihnachtsfrieden für die britische Königsfamilie
- Deutsches Containerschiff im Roten Meer angegriffen
- Vor Ukraine-Entscheidung: Orban fordert mehr Milliarden von der EU
- Kein Weihnachtsfrieden für die britische Königsfamilie
Quelle: edition.cnn.com
