ИИ представляет опасность для финансовой системы, впервые предупреждают регуляторы
ИИ представляет опасность для финансовой системы, впервые предупреждают регуляторы
Совет по надзору за финансовой стабильностью, группа ведущих регуляторов правительства США, в четверг официально классифицировал искусственный интеллект как «возникающую уязвимость».
Сложные модели искусственного интеллекта в последние годы набирают популярность, хотя многие видные деятели в этой области говорят, что зарождающаяся технология может иметь катастрофические последствия, если она выйдет из-под контроля.
«ИИ обладает потенциалом для стимулирования инноваций и повышения эффективности, но его использование в финансовых услугах требует продуманного внедрения и надзора для управления потенциальными рисками», – предупреждает FSOC в своем ежегодном отчете в четверг.
FSOC, созданный после финансового кризиса 2008 года и возглавляемый министром финансов США Джанет Йеллен, предупредил, что искусственный интеллект может «привнести определенные риски», включая проблемы кибербезопасности, риски соблюдения нормативных требований и проблемы конфиденциальности.
Регуляторы также выразили обеспокоенность «осложняющими факторами», связанными с генеративными моделями ИИ, такими как ChatGPT.
Например, совет отметил риски безопасности данных, защиты прав потребителей и конфиденциальности, которые несут финансовые компании, использующие генеративный ИИ. Кроме того, они отметили, что генеративные модели ИИ могут давать ошибочные результаты, известные как «галлюцинации».
Непроницаемый черный ящик
Еще одним поводом для беспокойства регулирующих органов является то, что некоторые модели ИИ работают как «черные ящики» – то есть их внутренняя работа непроницаема для посторонних.
По словам FSOC, «отсутствие «объяснимости» может затруднить оценку концептуальной состоятельности системы, что увеличивает неопределенность в отношении ее пригодности и надежности».
Другими словами, если банки полагаются на загадочные модели искусственного интеллекта, это затрудняет понимание того, насколько надежны их базовые системы.
Кроме того, регуляторы выразили обеспокоенность тем, что эти системы искусственного интеллекта могут «выдавать и, возможно, маскировать предвзятые или неточные результаты». Это, в свою очередь, вызовет беспокойство по поводу справедливого кредитования и других вопросов защиты прав потребителей, заявили в FSOC.
Этот шаг произошел всего через два года после того, как регуляторы впервые классифицировали изменение климата как «возникающую угрозу финансовой стабильности США».
Инвестиции и внедрение ИИ бурно развиваются, хотя некоторые эксперты предупреждают о серьезных опасностях, связанных с этой технологией. Президент Джо Байден недавно подписал указ, предписывающий федеральным агентствам принять меры по обеспечению безопасности развития искусственного интеллекта, который является бурно развивающейся областью внедрения и инвестиций.
«Ошибки и предубеждения может стать еще сложнее выявлять и исправлять по мере усложнения подходов ИИ, что подчеркивает необходимость бдительности со стороны разработчиков технологии, компаний финансового сектора, использующих ее, и регулирующих органов, осуществляющих надзор за такими компаниями», – заявили в FSOC.
Популярность ChatGPT и других инструментов генеративного ИИ, которые используют большие языковые модели для выявления закономерностей в данных и создания текстов и изображений, только усилила интерес к ИИ.
Читайте также:
- Как подорожает жизнь в Германии в 2024 году
- Как Германия планирует решить бюджетный кризис в 2024 году
- Первый немецкий город отказался от билета за €49
Источник: edition.cnn.com
Читайте также:
Обсуждение
Самые последние новости
