Los expertos piden más diversidad para combatir los prejuicios en la inteligencia artificial
"He trabajado en muchos proyectos de inteligencia artificial en los últimos 25 años, y no más de dos [de mis colegas] se parecían a mí", dijo Lawrence, que es negro.
La inteligencia artificial promete remodelar rápidamente nuestra sociedad, pero esa promesa, según Lawrence, conlleva el reto de afrontar y desmantelar los prejuicios que pueden codificarse en la tecnología emergente.
Lawrence es autora del libro "Hidden in White Sight", que examina cómo la IA contribuye al racismo sistémico.
La IA se nutre de los datos sobre los que se construye y, a veces, esos datos pueden ser racistas, sexistas y erróneos.
En agosto, una madre negra de Detroit demandó a la ciudad tras afirmar que había sido detenida falsamente estando embarazada de ocho meses porque los agentes la relacionaron con un delito mediante tecnología de reconocimiento facial. El jefe de policía de Detroit culpó después a "un trabajo de investigación deficiente".
Un estudio de 2022 descubrió que un robot entrenado mediante IA tenía más probabilidades de asociar a los hombres negros con ser delincuentes, o a las mujeres con ser amas de casa. El equipo de investigadores llegó a la conclusión de que el uso continuado de este tipo de tecnología corría el riesgo de "amplificar estereotipos malignos" que alimentan el racismo y la misoginia.
En la ciudad de Nueva York, el departamento de salud local amplió recientemente una coalición que impugna los algoritmos clínicos que se ajustan en función de la raza porque afirman que los resultados suelen ser perjudiciales para las personas de color. Se ha demostrado que estos algoritmos sobrestiman la salud de las personas de color, según un comunicado del Departamento de Salud e Higiene Mental de la ciudad de Nueva York, lo que puede causar un retraso en el tratamiento.
En una declaración compartida con CNN, un portavoz de OpenAI, la compañía detrás de ChatGPT y otros modelos de inteligencia artificial general (AGI), dijo que el sesgo es un problema significativo en toda la industria y OpenAI se dedica a "investigar y reducir el sesgo, y otros riesgos, en nuestros modelos."
"Estamos continuamente iterando sobre nuestros modelos para reducir el sesgo y mitigar los resultados perjudiciales", dijo la compañía en un comunicado, añadiendo que para cada nuevo modelo lanzado, OpenAI publica la investigación sobre cómo están trabajando para lograr esos objetivos.
La mejor manera de garantizar que la IA refleje las experiencias de las personas de color, dijo Lawrence, es asegurarse de que están empleadas y comprometidas en cada paso del proceso.
"No hay muchos negros ni científicos de datos que participen en el proceso de despliegue y diseño de soluciones de IA", afirma. "La única manera de conseguir que tengan asientos en la mesa es educarlos".
Aumentar la diversidad
Los estudios han descubierto que la falta de diversidad y representación en los campos tecnológicos comienza mucho antes de la universidad. Los estudiantes de color suelen tener menos acceso a cursos básicos de informática en el instituto, según un informe de 2023 de la Coalición de Defensa de Code.org.
Mientras que el 89% de los estudiantes asiáticos y el 82% de los estudiantes blancos tuvieron acceso a estos cursos respectivamente, el 78% de los estudiantes negros e hispanos y el 67% de los estudiantes nativos americanos tuvieron este mismo privilegio.
"Estas oportunidades no se distribuyen de manera uniforme, y eso es un problema", afirma Andrés Lombana-Bermúdez, profesor asociado del Centro Berkman Klein para Internet y Sociedad de la Universidad de Harvard.
Esa disparidad en el acceso también puede dar lugar a que menos personas de color estudien informática e inteligencia artificial a nivel universitario, señaló Lombana-Bermúdez.
En 2022, más de dos tercios de todos los doctorados en informática, ingeniería informática o información en Estados Unidos se concedieron a residentes no permanentes en el país de los que no se conoce el origen étnico, según la encuesta Taulbee de la 2022 Computing Research Association.
Casi el 19% de los títulos fueron a parar a doctorandos blancos y el 10,1% a asiáticos, frente a sólo el 1,7% de graduados hispanos y el 1,6% de graduados negros.
Lawrence cree que diversificar el campo de la inteligencia artificial puede hacer que la tecnología sea más segura y ética.
Lawrence dijo que fundó la organización sin ánimo de lucro AI 4 Black Kids, que trabaja para educar a los niños negros sobre inteligencia artificial y aprendizaje automático desde una edad temprana, con la esperanza de aumentar algún día la representación en el campo.
"La inteligencia artificial está formada por tan pocos puntos de vista históricos... para mí, el objetivo es que más negros participen en ese proceso", afirma.
La organización sin ánimo de lucro ofrece programas de tutoría a niños de entre 5 y 19 años, así como becas y asesoramiento universitario, explicó Lawrence.
Para combatir los prejuicios en la IA no sólo es necesario aumentar la diversidad racial, sino también la diversidad de pensamiento, afirmó Lombana-Bermúdez. Anima a contratar sociólogos, abogados, politólogos y otros tipos de académicos orientados a las humanidades para que contribuyan al debate sobre la IA y la ética.
Lombana-Bermúdez confía en que las generaciones futuras puedan aliviar algunos de los problemas de parcialidad e inaccesibilidad porque están creciendo junto a la tecnología.
"Tengo la esperanza de que esto cambie y de que en el futuro dispongamos de mejores tecnologías", afirmó. "Pero es una lucha y no es fácil. Es complejo".
Lea también:
- ¿Se enfrenta el Sarre a un colapso económico?
- El Dr. Gras funda la Universidad del Porrero
- El Fondo Saar de 3.000 millones de euros es inconstitucional
- Las detenciones preventivas muestran la amenaza terrorista islamista
Fuente: edition.cnn.com
