L'existence en ligne des enfants et des jeunes devient plus dangereuse en raison des progrès de l'intelligence artificielle.
Selon le rapport annuel de jugendschutz.net, un effort conjoint des gouvernements fédéral et étatiques, l'IA aggrave les menaces en ligne auxquelles sont confrontés les enfants et les adolescents. Le rapport souligne que "l'IA générative rendcurrently difficile de distinguer le vrai du faux", exacerbant ainsi des problèmes tels que la violence sexuelle, le harcèlement et l'extrémisme.
La ministre de la Famille Lisa Paus des Verts ajoute son grain de sel, mentionnant que le cyberespace est rempli d'injures, de provocations et de fausses informations, en particulier en raison d'une culture qui ne respecte pas consistently les normes sociales. Paus met principalement en cause les fournisseurs de plateformes pour ne pas en faire assez pour protéger les enfants et les adolescents.
L'an dernier, jugendschutz.net a traité 7 645 cas. Plus des deux tiers de ces cas portaient sur la violence sexuelle, tandis que 12 % concernaient du contenu sexuel ou pornographique, et 11 % portaient sur l'extrémisme politique. De plus, 5 % des cas portaient sur du contenu incitant au suicide, et 2 % étaient liés au harcèlement en ligne.
jugendschutz.net signale les violations concernant du contenu pornographique mettant en scène des enfants ou des adolescents, ou celles représentant un danger pour la vie ou l'intégrité physique, aux autorités compétentes ou aux fournisseurs de plateformes. À la fin de l'année, environ 90 % des 6 902 cas ont été résolus.
Cependant, Stefan Glaser, directeur de jugendschutz.net, a critiqué le fait que les fournisseurs de services en ligne ne font pas assez pour protéger les enfants et les adolescents. Il a souligné qu'ils répondent de manière inadequat
