Le domaine numérique devient de plus en plus risqué pour les mineurs en raison des progrès de l'intelligence artificielle.
Haine en ligne, harcèlement et désinformation bombardent les jeunes individus. Selon un rapport, ce problème est amplifié par l'utilisation de l'Intelligence Artificielle (IA). Il devient difficile de distinguer le vrai du faux.
C'est le constat dressé par le rapport annuel de jugendschutz.net, un centre de protection de la jeunesse financé à la fois par les gouvernements fédéral et étatique. Le rapport souligne que les IA génératives actuelles rendent plus difficile la distinction entre vérité et mensonge, ce qui amplifie les risques tels que l'abus sexuel, le harcèlement et l'extrémisme.
La ministre de la Famille, Lisa Paus, a commenté le rapport annuel de jugendschutz.net, s'inquiétant de la multiplication de la haine, du harcèlement et de la désinformation en ligne. Elle a également critiqué une culture de débat qui ignore souvent les normes sociales. "Les jeunes ont droit à une existence numérique sûre et insouciante. Malheureusement, nous en sommes encore loin", a déclaré Paus, mettant principalement la responsabilité sur les prestataires de plateformes.
L'an dernier, jugendschutz.net a traité environ 7 645 cas. Les deux tiers de ces incidents concernaient des violences sexuelles, 12 % portaient sur le sexe ou la pornographie, et 11 % sur l'extrémisme politique. De plus, 5 % concernaient des contenus autodestructeurs, et 2 % du cyberharcèlement.
jugendschutz.net signale les violations aux prestataires de plateformes ou aux autorités compétentes lorsqu'il détecte de la pornographie enfantine ou juvénile, ou s'il détecte une menace potentielle pour la vie et l'intégrité physique. À la fin de l'année, environ 90 % des violations signalées ont été supprimées, soit 6 902 cas.
Cependant, Stefan Glaser, directeur de jugendschutz.net, a exprimé son mécontentement envers les prestataires de services en ligne. "Ils ne font pas assez pour protéger les enfants et les jeunes", a déclaré Glaser, ajoutant qu'ils agissent généralement trop lentement lorsqu'ils reçoivent des signalements de violations et que leurs processus de vérification de l'âge des utilisateurs pourraient être améliorés.
L'augmentation de l'utilisation d'Internet par les jeunes contribue à la prolifération de la haine, du harcèlement et de la désinformation en ligne. Il est donc crucial que ces jeunes utilisateurs soient équipés de compétences en littératie numérique pour distinguer le vrai du faux.
Compte tenu de la dépendance croissante à l'utilisation d'Internet pour obtenir des informations, les jeunes sont souvent exposés à des risques tels que l'abus sexuel, le harcèlement et les contenus extrémistes, exacerbés par l'utilisation de l'IA.
