L'intelligenza digitale potenziata rappresenta una potenziale minaccia per i bambini e gli adolescenti nel cyberspazio.
Secondo il rapporto annuale di jugendschutz.net, sostenuto da governi federali e statali, Internet rappresenta sfide sempre più complesse per i giovani. Il rapporto evidenzia che la tecnologia AI avanzata rende difficile distinguere tra verità e finzione, amplificando i rischi come il bullismo online, le ideologie estreme e lo sfruttamento sessuale.
La Ministra della Famiglia Lisa Paus (Verdi) condivide queste preoccupazioni, sostenendo che la diffusione di discorsi d'odio, contenuti inappropriati e disinformazione online è esacerbata dalla mancanza di un rispetto costante delle norme sociali nel discorso digitale. Elle places una responsabilità significativa sui fornitori di piattaforme per affrontare questi problemi.
Nel 2020, jugendschutz.net ha gestito un totale di 7.645 casi. La maggior parte di questi, circa due terzi, riguardava casi di violenza sessuale. Il dodici percento dei casi riguardava contenuti sessualmente espliciti o pornografia, mentre un altro undici percento riguardava l'estremismo politico. Cinque percento dei casi riguardava materiale di autolesionismo, mentre il due percento riguardava incidenti di bullismo online.
Per quanto riguarda il contenuto pornografico minorile o le situazioni che rappresentano un rischio per la vita e l'incolumità, jugendschutz.net segnala le violazioni alle autorità competenti o ai fornitori di piattaforme. Alla fine dell'anno, circa il novanta percento delle violazioni segnalate era stato rimosso con successo.
Tuttavia, Stefan Glaser, direttore di jugendschutz.net, esprime delusione per il fatto che i fornitori di servizi online non stanno facendo abbastanza per proteggere i giovani. Critica la loro risposta insoddisfacente alle violazioni segnalate e le procedure di verifica dell'età insufficienti per gli utenti.
Il rapporto di jugendschutz.net evidenzia la crescente complessità della sicurezza online, con la tecnologia AI avanzata che contribuisce all'amplificazione dei rischi come il bullismo online e lo sfruttamento sessuale. Inoltre, la Ministra della Famiglia Lisa Paus sottolinea che la diffusione di questi rischi è esacerbata dalla mancanza di un rispetto costante delle norme sociali nel discorso digitale, ponendo una responsabilità significativa sui fornitori di piattaforme per affrontare questi problemi.
