Google y X se quedan atrás en el tratamiento de imágenes explícitas no consensuadas, dicen los legisladores
La carta critica a casi una docena de empresas tecnológicas por su falta de participación en dos programas que facilitan la solicitud de eliminación de imágenes y videos explícitos no consentidos de internet.
Estos programas son voluntarios, pero ya cuentan con otros gigantes de internet, como Meta, Snap, TikTok y PornHub, como participantes. Y la carta llega en un momento en que tanto los legisladores como los líderes tecnológicos enfrentan presiones para hacer más para combatir las imágenes sexuales no consentidas, a veces conocidas como pornografía de venganza, especialmente a medida que la inteligencia artificial facilita su creación y difusión.
Solo este año, mujeres de todo el mundo fueron objetivo de imágenes pornográficas generadas por AI, desde la estrella pop Taylor Swift hasta chicas de escuela secundaria. Y mientras nueve estados de EE. UU. actualmente tienen leyes contra la creación o compartir imágenes deepfake no consentidas, no existen a nivel federal, lo que limita las opciones para las víctimas de este tipo de acoso que desean buscar ayuda o responsabilidad.
La carta del viernes, compartida exclusivamente con CNN, está dirigida a los directores ejecutivos de once empresas tecnológicas: X, la empresa matriz de Google, Alphabet, Amazon, Match, Zoom, Pinterest, Discord, OpenAI, Twitch, Microsoft y Patreon.
Les insta a unirse al programa "Take it Down" del Centro Nacional para Niños Desaparecidos y Explotados, que ayuda a las personas a eliminar imágenes o videos desnudos o explícitos sexuales de menores de las plataformas en línea, así como a la iniciativa "StopNCII" de la Línea de Ayuda contra la Pornografía de Venganza, que ayuda a los adultos a eliminar imágenes explícitas que se compartieron en línea sin su consentimiento. Ambos programas permiten a los usuarios crear un código numérico único para una imagen que desean eliminar, lo que los sitios participantes pueden usar para buscar y eliminar fácilmente la imagen.
"Al aumentar la participación en estos programas, las empresas pueden tomar medidas concretas para detener el impacto que la imagen íntima no consentida tiene en la vida, carrera y familia de quienes resultan afectados", señala la carta. La carta fue impulsada por la senadora demócrata Jeanne Shaheen y el senador republicano Rick Scott, y fue cofirmada por ocho senadores más.
La mayoría de las empresas mencionadas en la carta tienen políticas en contra de la creación o compartir imágenes explícitas no consentidas y, en algunos casos, ofrecen sus propias formas para que los usuarios informen o soliciten la eliminación de dicho contenido. Google también recently anunció que aims to keep such content from appearing near the top of search results.
Pero la ventaja de unirse al grupo es que los usuarios solo necesitan enviar una solicitud de eliminación que se dirige a todas las plataformas participantes, en lugar de tener que contactar a cada empresa individualmente.
La lucha para abordar las imágenes explícitas no consentidas y los deepfakes ha recibido un apoyo bipartidista poco común. Un grupo de adolescentes y padres que habían sido afectados por la pornografía generada por AI testificó en una audiencia en el Capitolio, donde el senador republicano Ted Cruz presentó un proyecto de ley -apoyado por la senadora demócrata Amy Klobuchar y otros- que haría que publicar tales imágenes fuera un delito y requeriría que las plataformas de redes sociales las eliminaran
