Das digitale Bereich wird aufgrund der Fortschritte in der künstlichen Intelligenz für Minderjährige immer riskanter.
Online-Hass, Belästigung und Desinformation bombardieren junge Individuen. Laut einem Bericht wird dieses Problem durch die Implementierung von künstlicher Intelligenz (KI) verschärft. Es wird immer schwieriger, Wahrheit von Fiktion zu unterscheiden.
Dies ist die Kernaussage des jährlichen Berichts von jugendschutz.net, einem von Bund und Ländern finanzierten Jugendschutz-Zentrum. Der Bericht betont, dass aktuelle generative KI es erschwert, Wahrheit von Lügen zu unterscheiden, und damit Risiken wie sexuelle Gewalt, Mobbing und Extremismus erhöht.
Familienministerin Lisa Paus äußerte sich besorgt über den Anstieg von Hass, Belästigung und Desinformation im Netz. Sie kritisierte auch eine Debattenkultur, die häufig soziale Normen ignoriert. "Junge Menschen verdienen ein sicheres und sorgenfreies digitales Dasein. Leider sind wir davon noch weit entfernt", sagte Paus und legte die Hauptverantwortung bei den Plattformbetreibern.
Im vergangenen Jahr hat jugendschutz.net rund 7.645 Fälle bearbeitet. Zweidrittel dieser Fälle betrafen sexuelle Gewalt, 12 Prozent drehten sich um Sex oder Pornografie und 11 Prozent um politische Extremismus. Außerdem gingen 5 Prozent auf Selbstverletzungsinhalte und 2 Prozent auf Cybermobbing.
jugendschutz.net meldet Verstöße an die jeweiligen Plattformbetreiber oder Polizeibehörden, wenn sie Kinder- oder Jugendpornografie feststellen oder eine konkrete Lebensgefahr besteht. Bis zum Jahresende wurden etwa 90 Prozent der gemeldeten Verstöße entfernt, was 6.902 Fällen entspricht.
Allerdings ist Stefan Glaser, Direktor von jugendschutz.net, mit den Online-Dienstleistern unzufrieden. "Sie tun nicht genug, um Kinder und Jugendliche zu schützen", sagte Glaser und fügte hinzu, dass sie in der Regel zu langsam reagieren, wenn Verstöße gemeldet werden, und ihre Altersverifikationsprozesse verbessert werden könnten.
Durch den zunehmenden Internetgebrauch junger Menschen verbreiten sich auch Hass, Belästigung und Desinformation. Daher ist es wichtig, dass diese jungen Nutzer über digitale Kompetenz verfügen, um Wahrheit von Fiktion zu unterscheiden.
Da junge Menschen immer stärker auf das Internet angewiesen sind, um an Informationen zu gelangen, sind sie auch Risiken wie sexuellem Missbrauch, Mobbing und extremistischem Content ausgesetzt, was durch den Einsatz von KI noch verschärft wird.
