O domínio digital está a tornar-se cada vez mais arriscado para os menores devido aos avanços na inteligência artificial.
Online ódio, assédio e desinformação estão bombardeando indivíduos jovens. De acordo com um relatório, esse problema está sendo exacerbado pela implementação da Inteligência Artificial (IA). Está se tornando desafiador discernir fato de ficção.
Esse é o cerne do relatório anual lançado pelo jugendschutz.net, um centro de proteção à juventude financiado por governos federal e estadual. O relatório destaca que a IA atual está dificultando a diferenciação entre verdade e mentira, aumentando assim os riscos de abuso sexual, bullying e extremismo.
A Ministra da Família, Lisa Paus, comentou sobre o relatório anual do jugendschutz.net, expressando preocupação com o aumento do ódio, assédio e desinformação online. Ela também criticou uma cultura de debate que frequentemente ignora as normas sociais. "Os jovens merecem uma existência digital segura e despreocupada. Infelizmente, ainda estamos muito longe disso", disse Paus, colocando a responsabilidade principalmente nas empresas de plataforma.
No ano passado, o jugendschutz.net lidou com aproximadamente 7.645 casos. Dois terços desses incidentes envolveram violência sexual, 12% giravam em torno de sexo ou pornografia, e 11% abordavam extremismo político. Além disso, 5% diziam respeito a conteúdo de automutilação e 2% envolviam cyberbullying.
O jugendschutz.net relata violações às empresas de plataforma ou às agências de aplicação da lei quando detecta pornografia infantil ou youth porn ou se detecta uma ameaça potencial à vida e à integridade física. Ao final do ano, cerca de 90% das violações relatadas foram removidas, o que equivale a 6.902 casos.
No entanto, Stefan Glaser, diretor do jugendschutz.net, expressou insatisfação com os provedores de serviços online. "Eles não estão fazendo o suficiente para proteger crianças e jovens", disse Glaser, acrescentando que eles geralmente agem muito devagar quando as violações são relatadas a eles e seus processos de verificação da idade do usuário poderiam ser aprimorados.
O aumento do uso da Internet por indivíduos jovens está contribuindo para a proliferação de ódio, assédio e desinformação online. Como resultado, é crucial que esses jovens usuários estejam equipados com habilidades de alfabetização digital para distinguir fato de ficção.
Dado o aumento da dependência do uso da Internet para informações, os indivíduos jovens estão frequentemente expostos a riscos como abuso sexual, bullying e conteúdo extremista, exacerbados pelo uso da IA.
