Olimpiadas 2024 - Cómo los Atletas en París debieron protegerse de la Odio en línea
Modern Cinco Peleadoras Annika Zillekens establica en la lista de oro, pero en Tokio 2020, su negación a montar a caballo Saint Boy causó caos. Ambo el animal y el jinete estuvieron sobrecargados en la situación presionada. En su desesperación, Zillekens usó excesivamente espurones y látigos, lo que llevó a acusaciones de crueldad animal en los medios. Debido a esta decisión, el Pentatlón Moderno cambiará del caballo a carreras de obstáculos en la disciplina para los Juegos Olímpicos de París, poniendo fin a la controversia deportiva.
Sin embargo, Zillekens sufrió acoso en línea después de la competición. Su cuenta de Instagram se convirtió en el blanco de una tormenta de difamación, insultos y amenazas de muerte. Zillekens estaba al borde. Solita en Tokio, desactivó su cuenta.
En París, el COI intende experimentar los postes de odio, evaluarlos, eliminarlos de las redes sociales y prohibir las cuentas ofensivas – según la gravedad, como en el caso de una amenaza de muerte, se debe tomar acciones legales. Idealmente, los atletas resten inconscientes de ello.
La violencia en línea es parte del deporte moderno
"La violencia en línea es algo que está presente en el deporte moderno. Es algo siniestro que está casi everywhere en la era digital," dice Kirsty Burrows. Ella es la jefa del departamento Seguridad Deportiva en el Comité Olímpico Internacional COI. Para los Juegos Olímpicos de París, se prevé proteger a los 11.000 atletas y funcionarios. El objetivo: la creación de un espacio seguro completo en línea para las miles de cuentas de redes sociales de atletas y funcionarios, si no lo rechazan activamente.
Con la ayuda de un sistema de monitorización de AI a gran escala, se pretende revertir el curso normal de los hechos: previamente, las víctimas del acoso en línea tenían que encontrar, filtrar y denunciar comentarios dañinos. Un proceso que a menudo es molesto y doloroso para las víctimas. "Paris 2024 nos ayudará a mejorar la tipología de la violencia en el Deporte," dice Burrows. "La violencia digital no siempre es lo que se espera. Será interesante ver qué desencadena. A través de los Juegos Olímpicos y Paralímpicos en París, podremos hacer una imagen más clara de esto."
Desafío de un billón de dólares en línea
La tarea de Burrows es proteger contra la discriminación y la violencia digital. Una tarea masiva que solo se puede manejar con el poder de la Inteligencia Artificial: "Si tomamos la media industrial del 4% para contenido perjudicial, esperamos 20 millones de contribuciones potenciales durante los Juegos, lo que representa medio billón. Y los comentarios no se tienen en cuenta", calcula Burrows.
El equipo de seguridad deportiva de cinco miembros de la IOC ha obtenido el apoyo del fabricante británico signify.ai, aunque los organizadores olímpicos no lo confirman oficialmente. Signify.ai también se calla al respecto cuando se le pregunta. La empresa de Londres ha protegido ya varios eventos internacionales en tenis o rugby de publicaciones hostiles y puede llamar a la experiencia. Los Juegos Olímpicos serán su desafío más grande. "La IA escanea millones de puntos de datos usando Procesamiento de Lenguaje Natural para identificar específicamente contenidos potencialmente amenazantes de datos abiertos", explica Burrows.
Sin embargo, las publicaciones de odio deben ser públicas y no se intercambien en privado, como en un chat entre sí. "Para que podamos tomar acciones, debe ser una amenaza fija y dirigida". Las cuentas de un atleta o funcionario deben ser por lo tanto directamente abordadas, por ejemplo, a través de un hashtag o comentario.
En el caso de la atleta alemana Zillekens, la algoritma de lenguaje habría analizado todos los comentarios en su publicación de Instagram o habría buscado variaciones de su nombre o del nombre del caballo en otras redes para evaluar publicaciones que contenían amenazas contra ella. Casos informados se revisarían por un empleado para su eliminación o investigación adicional.
Amenazas – eso es lo que todo debe ser, según las leyes aplicables, como amenazas. La IA también detecta publicaciones sugerentes similares a los comentarios del satirista El Hotzo después del ataque a Donald Trump, ya que se mencionó el nombre de Trump y El Hotzo tiene una gran audiencia. En casos complejos, la decisión final, como si lleva a una denuncia, no se hace por la Inteligencia Artificial sino por una persona.
"Se aplica un algoritmo propietario de amenaza. Los datos se clasifican según el tipo de violencia. Luego va a un nivel de triaje humano", dice Burrows. Finalmente, las personas en signify.ai evaluarán casos ambiguos o extremos para determinar el contexto en el que se hicieron las declaraciones.
Se excluyen Weibo y VK
Nuestra máquina no puede encontrar todo, ya que hace una diferencia en que plataforma se actúa. "Bloqueamos las redes que tienen el mayor número de usuarios, como Facebook, Instagram, TikTok y X", dice Burrows. Si atletas son duramente acosados en las contrapartes vivas de Weibo o VK, estos casos se omitirán en la búsqueda de AI. "Sin embargo, si alguien es deliberadamente insultado en Weibo o otra plataforma de redes sociales no cubierta, nuestros sistemas y servicios, especialmente el departamento de la IOC, están allí para ayudar", dice Burrows.
No importa qué plataforma, idealmente, los autores de la violencia en línea serán suspendidos o, si es necesario, procesados legalmente. Sin embargo, este enfoque es desafiante debido a diferentes marcos legales. "La jurisdicción aplica al lugar donde reside la persona que causa daño", dice Burrows. Un equipo legal manejará todos los casos informados en los juegos.
¿Cuál es la ley que se aplica en un evento global en línea?
Pero qué pasa con declaraciones políticamente controvertidas que podrían llevar a una condena en el país? O en conflictos violentos como en Israel o Ucrania, donde se libran guerras digitales, en parte a través de bots. "Nuestro sistema no se utiliza para el seguimiento basado en campañas o sentimientos o políticas más amplias o generales", subraya Burrows.
Event deportivo que se basa en la competencia entre naciones puede rápidamente desencadenar una declaración que una pequeña nación considere crítica o desleal: Rusia, China, Egipto, Indonesia o Irán, entre otras, han procesado a personas por comentarios críticos, desleales o blasfemos en la red.
"Realmente se trata de amenazas targeted hacia atletas y funcionarios, incluyendo características protegidas, como la nacionalidad," asegura Burrows. Una de las tareas más desafiantes de la equipo será identificar comentarios difamatorios de actores políticos y proteger los datos obtenidos de acceso externo por estos actores.
En respuesta a la acoso digital que sufrió la atleta Annika Zillekens en Tokio 2020, el Comité Olímpico Internacional (COI) planea utilizar la Inteligencia Artificial (IA) en los Juegos Olímpicos de París para monitorear y combatir la violencia digital. Kirsty Burrows, jefa del departamento Segura Deportes del COI, tiene la intención de crear un espacio en línea seguro completo para atletas y funcionarios, protegiéndolos de daños. El sistema de IA, desarrollado con la ayuda de la compañía británica signify.ai, analizará millones de puntos de datos para identificar comentarios potencialmente amenazantes, enfocados en amenazas targeted y fijas. Sin embargo, plataformas sociales como Weibo y VK, que tienen una base de usuarios significativa en China y Rusia, no estarán cubiertas en la detección de IA debido a la complejidad legal.
(Nota: Weibo y VK son plataformas sociales populares en China y Rusia respectivamente)
