Il mondo digitale è sempre più rischioso per i minori a causa dei progressi dell'intelligenza artificiale.
Online odio, molestie e disinformazione stanno bombardando i giovani. Secondo un rapporto, questo problema è amplificato dall'implementazione dell'Intelligenza Artificiale (IA). Sta diventando difficile distinguere il vero dal falso.
Questo è il succo del rapporto annuale pubblicato da jugendschutz.net, un centro di protezione della gioventù sponsorizzato da governi federali e statali. Il rapporto evidenzia che l'IA generativa attuale rende più difficile distinguere la verità dalle menzogne, aumentando i rischi come l'abuso sessuale, il bullismo e l'estremismo.
La Ministro della Famiglia Lisa Paus ha commentato il rapporto annuale di jugendschutz.net, esprimendo preoccupazione per l'aumento dell'odio, delle molestie e della disinformazione online. Ha anche criticato una cultura del dibattito che spesso ignora le norme sociali. "I giovani meritano un'esistenza digitale sicura e spensierata. Purtroppo, siamo ancora lontani dal raggiungere questo obiettivo", ha dichiarato Paus, dando principalmente la colpa ai fornitori di piattaforme.
Lo scorso anno, jugendschutz.net ha gestito circa 7.645 casi. Due terzi di questi incidenti riguardavano la violenza sessuale, il 12% era incentrato sul sesso o sulla pornografia, e l'11% riguardava l'estremismo politico. Inoltre, il 5% riguardava il contenuto di autolesionismo e il 2% riguardava il cyberbullismo.
jugendschutz.net segnala le violazioni ai rispettivi fornitori di piattaforme o alle agenzie di legge e ordine quando rileva pornografia infantile o giovanile, o se rileva una minaccia potenziale per la vita e l'incolumità. Entro la fine dell'anno, circa il 90% delle violazioni segnalate è stato rimosso, pari a 6.902 casi.
Tuttavia, Stefan Glaser, direttore di jugendschutz.net, ha espresso insoddisfazione nei confronti dei fornitori di servizi online. "Non fanno abbastanza per proteggere i bambini e i giovani", ha dichiarato Glaser, aggiungendo che di solito agiscono troppo lentamente quando vengono segnalate le violazioni e che i loro processi di verifica dell'età degli utenti potrebbero essere migliorati.
L'aumento dell'uso di Internet da parte dei giovani sta contribuendo alla diffusione dell'odio, delle molestie e della disinformazione online. Di conseguenza, è fondamentale che questi giovani utenti siano dotati di competenze di alfabetizzazione digitale per distinguere il vero dal falso.
Data l'aumento della dipendenza dall'uso di Internet per le informazioni, i giovani sono spesso esposti a rischi come l'abuso sessuale, il bullismo e i contenuti estremisti, peggiorati dall'uso dell'IA.
