Die Online-Existenz von Kindern und Jugendlichen wird aufgrund der Fortschritte in der künstlichen Intelligenz gefährlicher.
Laut dem Jahresbericht von jugendschutz.net, einer gemeinsamen Anstrengung von Bund und Ländern, verschärft künstliche Intelligenz (KI) die Online-Gefahren für Kinder und Jugendliche. Der Bericht betont, dass gegenwärtig generative KI es schwieriger macht, Wahrheit von Fiktion zu unterscheiden, was Probleme wie sexuelle Gewalt, Mobbing und Extremismus verschärft.
Familienministerin Lisa Paus von den Grünen äußert sich ebenfalls dazu und betont, dass der Online-Raum insbesondere aufgrund einer Kultur, die nicht konsequent soziale Normen einhält, voller Hassrede, Provokationen und falscher Informationen ist. Paus gibt vor allem den Plattformanbietern die Schuld, dass sie nicht genug tun, um Kinder und Jugendliche zu schützen.
Im vergangenen Jahr hat sich jugendschutz.net mit 7.645 Fällen beschäftigt. Mehr als zwei Drittel dieser Fälle betrafen sexualisierte Gewalt, während 12 % sexuellen oder pornographischen Inhalt betrafen und 11 % politischen Extremismus. Additionally, 5 % der Fälle betrafen Inhalte, die Selbstverletzung fördern, und 2 % waren mit Cybermobbing verbunden.
jugendschutz.net meldet Verstöße, die kinder- oder jugendpornographischen Inhalt enthalten oder eine Gefahr für Leben oder Gesundheit darstellen, an zuständige Behörden oder Plattformanbieter. Bis zum Jahresende waren etwa 90 % der 6.902 Fälle geklärt.
Allerdings kritisiert Stefan Glaser, der Leiter von jugendschutz.net, dass Online-Dienstleister nicht genug tun, um Kinder und Jugendliche zu schützen. Er betont, dass sie unangemessen auf gemeldete Verstöße reagieren und oft das Alter der Nutzer nicht überprüfen.
Die Intelligenz fortschrittlicher KI-Technologien wie generativer KI stellt eine Herausforderung dar, um Wahrheit von Fiktion zu unterscheiden, was Online-Probleme wie sexuelle Gewalt und Mobbing weiter verschärft. Familienministerin Lisa Paus plädiert für eine höhere Verantwortung der Plattformanbieter, da sie eine wichtige Rolle bei der Schutz von Kindern und Jugendlichen vor Hassrede, Provokationen und falschen Informationen spielen.
