Интернетное существование детей и молодежи становится более опасным из-за достижений искусственного интеллекта.
Согласно годовому отчету jugendschutz.net, который является результатом сотрудничества федеральных и региональных властей, ИИ усугубляет онлайн-угрозы, с которыми сталкиваются дети и подростки. В отчете отмечается, что в настоящее время генеративный ИИ затрудняет различение факта и вымысла, что усиливает проблемы, такие как сексуальное насилие, буллинг и экстремизм.
Министр семьи Лиза Паус из "Зеленых" добавляет, что онлайн-пространство переполнено ненавистнической риторикой, провокациями и ложной информацией, особенно из-за культуры, которая не соблюдает социальные нормы последовательно. Паус в основном обвиняет поставщиков платформ в том, что они не делают достаточно для защиты детей и подростков.
В прошлом году jugendschutz.net рассматривал 7645 случаев. Более двух третей из них были связаны с сексуализированным насилием, 12% - с сексуальным или порнографическим содержанием, и 11% - с политическим экстремизмом. Кроме того, 5% случаев были связаны с содержанием, поощряющим самоповреждение, и 2% - с кибербуллингом.
jugendschutz.net направляет нарушения, связанные с детской или подростковой порнографией, или те, которые представляют опасность для жизни или здоровья, в соответствующие органы власти или поставщикам платформ. К концу года около 90% из 6902 случаев были разрешены.
Тем не менее, Стефан Гласер, глава jugendschutz.net, критикует то, что онлайн-сервисные поставщики не делают достаточно для защиты детей и подростков. Он отмечает, что они реагируют неадекватно на сообщения о нарушениях и часто не проверяют возраст пользователей.
Интеллект продвинутых технологий ИИ, таких как генеративный ИИ, представляет собой вызов для различения факта и вымысла, что еще больше усугубляет онлайн-проблемы, такие как сексуальное насилие и буллинг. Министр семьи Лиза Паус выступает за увеличение ответственности поставщиков платформ, так как они играют значительную роль в защите детей и подростков от преобладания ненавистнической риторики, провокаций и ложной информации.
