Улучшенный цифровой интеллект представляет потенциальную угрозу для детей и подростков в киберпространстве.
Согласно годовому отчету jugendschutz.net, поддерживаемому tanto федеральными, как и государственными органами, Интернет представляет собой все более сложные вызовы для молодых людей. Отчет подчеркивает, что продвинутые технологии искусственного интеллекта усложняют различение между правдой и вымыслом, что усиливает риски, такие как кибербулинг, экстремистские идеологии и сексуальная эксплуатация.
Министр семьи Лиза Паус (Зеленые) разделяет эти опасения, заявляя, что распространение ненавистнической риторики, неадекватного контента и дезинформации в Интернете усугубляется отсутствием последовательного соблюдения социальных норм в цифровом общении. Она возлагает значительную ответственность на поставщиков платформ за решение этих вопросов.
В 2020 году jugendschutz.net рассмотрел в общей сложности 7645 случаев. Более двух третей из них были связаны с случаями сексуального насилия. Двенадцать процентов случаев касались сексуально откровенного контента или порнографии, а еще 11 процентов - политического экстремизма. Пять процентов случаев были связаны с материалами, побуждающими к самоубийству, а два процента - с случаями кибербуллинга.
В отношении детской или подростковой порнографии или ситуаций, представляющих угрозу для жизни и здоровья, jugendschutz.net сообщает о нарушениях в соответствующие органы или поставщикам платформ. К концу года около 90 процентов сообщенных нарушений были успешно удалены.
Тем не менее, Стефан Глазер, глава jugendschutz.net, выражает разочарование тем, что онлайн-сервис-провайдеры не делают достаточно для защиты молодых людей. Он критикует их неадекватную реакцию на сообщенные нарушения и слабую процедуру верификации возраста пользователей.
Отчет от jugendschutz.net подчеркивает растущие сложности в обеспечении безопасности в Интернете, где продвинутые технологии искусственного интеллекта способствуют усилению рисков, таких как кибербулинг и сексуальная эксплуатация. Кроме того, министр семьи Лиза Паус подчеркивает, что распространение этих рисков усугубляется отсутствием последовательного соблюдения социальных норм в цифровом общении, возлагая значительную ответственность на поставщиков платформ за решение этих вопросов.
