Алгоритмы – как ЕС хочет понимать и регулировать веб

Европейский союз хочет открыть черный ящик непрозрачных программных решений в интернете и тем самым сделать таких онлайн-гигантов, как Facebook или Tiktok, более безопасными для их пользователей. Чтобы действительно понять механизмы, стоящие за языком вражды, кампаниями дезинформации или психологическими опасностями для детей, чиновникам ЕС в будущем придется препарировать сердце и душу платформ: Как работают системы рекомендаций? Какие алгоритмы лежат в их основе? Каковы социальные последствия всего этого? Европейский центр прозрачности алгоритмов (ECAT), который открылся в Севилье во вторник, должен сыграть в этом ключевую роль.

Свод правил, который должен навести порядок на «Диком Западе» интернета, – это Закон о цифровых услугах (DSA). До сих пор ЕС полагался в основном на самообязательства служб в борьбе с незаконным контентом. Теперь DSA должен обеспечить, среди прочего, чтобы платформы быстрее удаляли со своих сайтов разжигающие ненависть высказывания и контрафактную продукцию. К очень крупным платформам будут предъявляться особенно строгие требования. В ближайшие дни Комиссия ЕС определит, на кого будет распространяться DSA, на основе данных о количестве пользователей. Facebook, Instagram, YouTube и Twitter, скорее всего, окажутся в их числе. Все они организуют свои услуги в основном с помощью искусственного интеллекта (ИИ) – другими словами, алгоритмов. И именно здесь вступает в дело ECAT.

Алгоритмы управляют восприятием мира

ИИ уже давно играет важную роль в определении того, как пользователи воспринимают интернет: Какую песню мы будем слушать дальше? Какой пост мы увидим? Какие результаты появляются в нашем поиске? Какой товар нам следует купить? Алгоритмы играют важную роль в определении того, как мы воспринимаем мир, и в результате становятся все более сложными. Некоторые люди очень обеспокоены этим. Они предупреждают, что самообучающиеся программы могут стать неуправляемыми. 

В настоящее время внимание всего мира привлекает текстовый автомат ChatGPT. Вы задаете ему несколько ключевых слов или задаете вопрос – и в ответ получаете сформулированный текст, который зачастую невозможно распознать как созданный компьютером. Между тем, существуют также программы, которые могут генерировать изображения на основе нескольких слов. Риск того, что такие технологии могут быть использованы для фальшивых новостей, очевиден. Несколько депутатов Европарламента недавно призвали провести глобальный саммит, посвященный опасностям искусственного интеллекта.

Но вернемся в Севилью, Испания, где ученые ECAT работают – словно в немецком офисе – над тем, чтобы американские интернет-гиганты соблюдали европейские правила. Команда из 30 сотрудников, в которую входят эксперты по искусственному интеллекту, а также специалисты по данным и социологии, будет консультировать Комиссию ЕС по вопросам соблюдения DSA в будущем и обмениваться информацией с другими экспертами. В конечном итоге, суверенитет над правилами лежит не в Севилье, а в Брюсселе. 

Требуется оценка рисков

В будущем платформенные гиганты должны будут раз в год представлять в Комиссию ЕС оценку рисков, связанных с вредным контентом, включая возможные контрмеры. Первый отчет должен быть представлен к сентябрю. В него может быть включен вопрос о том, подвергается ли риску психическое здоровье детей. Отчеты будут рассматриваться Комиссией ЕС, и общественность – исследователи или журналисты – также будет иметь к ним доступ. Комиссия ЕС может запросить дополнительную информацию. Она может задавать вопросы разработчикам, запрашивать подробности о тестовой среде платформ, а также код алгоритмов. Тем, кто не соблюдает правила, грозят штрафы в размере до шести процентов от их годового мирового оборота. 

Часть правил предусматривает, что компании должны быстро удалять незаконный контент, если им об этом сообщили. Пользователям будет проще сообщать о таком контенте. Но действительно ли ЕС в курсе этого закона? Комиссия уверена в себе. Рената Николаи из ответственного Генерального директората говорит о «жестких обязательствах». Существует большая надежда на то, что ЕС умеет не только устанавливать правила, но и добиваться перемен. «Мир наблюдает за нами», – сказала Николаи во вторник. ЕС – первый в мире союз, который пытается всесторонне поставить Facebook и Co. на место. 

Но как быть со всем тем, что сейчас разрабатывается и будет разрабатываться в будущем на основе алгоритмов и искусственного интеллекта? Как насчет ChatGTP и автомобилей с автономным управлением? Как насчет автоматизированных программ для найма персонала или оценки кредитоспособности? Решения искусственного интеллекта могут нанести большой вред.

И здесь Европейский Союз хочет стать первопроходцем и установить стандарты. С этой целью Комиссия ЕС уже предложила два года назад новый свод правил, так называемый Закон об искусственном интеллекте, который в настоящее время проходит согласование в Брюсселе. В связи с ChatGPT и Co. министр цифровых технологий Фолькер Виссинг (СвДП) только что призвал поторопиться. ECAT также поможет здесь лучше понять алгоритмы и их влияние на общество.