L'esistenza online di bambini e giovani diventa più pericolosa a causa dei progressi dell'intelligenza artificiale.
Secondo il rapporto annuale di jugendschutz.net, un'iniziativa congiunta dei governi federali e statali, l'intelligenza artificiale sta peggiorando le minacce online a cui sono esposti bambini e adolescenti. Il rapporto rileva che "al momento, l'AI generativa rende più difficile distinguere la realtà dalla finzione", aggravando problemi come la violenza sessuale, il bullismo e l'estremismo.
La ministra della Famiglia Lisa Paus dei Verdi ha aggiunto le sue considerazioni, osservando che il mondo online è pieno di odio, provocazioni e informazioni false, soprattutto a causa di una cultura che non sempre rispetta le norme sociali. Paus incolpa principalmente i fornitori di piattaforme per non fare abbastanza per proteggere bambini e adolescenti.
Lo scorso anno, jugendschutz.net ha gestito 7.645 casi. Più della metà di questi riguardava violenza sessualizzata, mentre il 12% riguardava contenuti sessuali o pornografici e l'11% estremismo politico. Inoltre, il 5% dei casi riguardava contenuti che promuovono l'autolesionismo e il 2% il cyberbullismo.
jugendschutz.net segnala alle autorità competenti o ai fornitori di piattaforme i casi di violazione che riguardano pornografia infantile o che rappresentano un pericolo per la vita o l'incolumità. Alla fine dell'anno, circa il 90% dei 6.902 casi è stato risolto.
Tuttavia, Stefan Glaser, direttore di jugendschutz.net, ha criticato il fatto che i fornitori di servizi online non fanno abbastanza per proteggere bambini e adolescenti. Ha sottolineato che rispondono in modo inadeguato alle segnalazioni di violazioni e spesso non verificano l'età degli utenti.
L'intelligenza delle tecnologie AI avanzate, come l'AI generativa, rappresenta una sfida nel distinguere la realtà dalla finzione, peggiorando ulteriormente i problemi online come la violenza sessuale e il bullismo. La ministra della Famiglia Lisa Paus si batte per una maggiore responsabilità dei fornitori di piattaforme, poiché hanno un ruolo significativo nella protezione dei bambini e degli adolescenti dalla diffusione di odio, provocazioni e informazioni false.
