A inteligência digital reforçada representa ameaças potenciais para crianças e adolescentes no ciberespaço.
De acordo com o relatório anual do jugendschutz.net, apoiado por governos federal e estaduais, a internet apresenta desafios cada vez mais complexos para jovens. O relatório destaca que a tecnologia de IA avançada torna mais difícil distinguir entre verdade e ficção, aumentando assim riscos como cyberbullying, ideologias extremas e exploração sexual.
A Ministra da Família, Lisa Paus (Verdes), compartilha essas preocupações, afirmando que a proliferação de discurso de ódio, conteúdo inadequado e desinformação online é exacerbada pela falta de aderência consistente a normas sociais no discurso digital. Ela coloca uma responsabilidade significativa nos provedores de plataforma para abordar esses problemas.
Em 2020, o jugendschutz.net lidou com um total de 7.645 casos. A maioria deles, aproximadamente dois terços, envolveu casos de violência sexual. Doze por cento dos casos lidaram com conteúdo sexual explícito ou pornografia, enquanto outros 11% giravam em torno de extremismo político. Cinco por cento dos casos envolveram material de automutilação, enquanto dois por cento diziam respeito a incidentes de cyberbullying.
No caso de conteúdo pornográfico infantil ou situações que põem em risco a vida e a integridade, o jugendschutz.net denuncia as violações às autoridades relevantes ou aos provedores de plataforma. Até o final do ano, cerca de 90% das violações relatadas foram removidas com sucesso.
No entanto, Stefan Glaser, diretor do jugendschutz.net, expressa sua decepção com o fato de que os provedores de serviços online não estão fazendo o suficiente para proteger os jovens. Ele critica a resposta inadequada aos relatórios de violações e os procedimentos de verificação de idade laxos para os usuários.
O relatório do jugendschutz.net destaca a crescente complexidade da segurança online, com a tecnologia de IA avançada contribuindo para a amplificação de riscos como cyberbullying e exploração sexual. Além disso, a Ministra da Família, Lisa Paus, enfatiza que a proliferação desses riscos é exacerbada pela falta de aderência consistente a normas sociais no discurso digital, colocando uma responsabilidade significativa nos provedores de plataforma para abordar esses problemas.
