Американское агентство FTC взялось за чат-бот ChatGPT
Американское агентство FTC взялось за чат-бот ChatGPT
По сообщениям СМИ, американское агентство по защите прав потребителей FTC взяло под прицел чат-бот ChatGPT. Оно направило разработчику OpenAI подробный каталог вопросов об опасностях для потребителей, как пишут Washington Post и New York Times. Основное внимание FTC уделяет работе с пользовательскими данными и случаям, когда ChatGPT делает ложные заявления о людях.
ChatGPT вызывает ажиотаж с конца прошлого года, поскольку чат-бот может общаться на уровне человеческого языка. Программа была обучена на огромном количестве данных. Она формирует предложения, оценивая слово за словом, как может продолжаться предложение. Недостатком этого принципа является то, что программа не понимает содержания. Поэтому она может с убежденностью выдавать информацию, которая совершенно не соответствует действительности.
ChatGPT распространяет неправду
В последние месяцы стало известно о нескольких случаях, когда ChatGPT придумывала неправду о людях, способную повредить их репутации. Например, программа утверждала, что в отношении профессора юриспруденции имеются обвинения в сексуальных домогательствах, и в качестве доказательства ссылалась на якобы опубликованное в газете «Washington Post» сообщение. Однако ни самих обвинений, ни статьи о них не было, о чем газета сообщила еще в апреле. О мэре из Австралии, по сообщениям СМИ, программа ложно утверждала, что он был приговорен к тюремному заключению.
В СМИ появилась статья об американском адвокате, который заявил, что при аргументации в суде он опирался на информацию из ChatGPT. Несколько судебных решений, на которые он якобы ссылался, оказались вымышленными.
Что касается безопасности данных, то в марте произошел инцидент, в результате которого некоторые пользователи ChatGPT получили возможность просматривать истории переписки других людей. Число пострадавших было «крайне незначительным», пишет OpenAI в своем блоге.
Федеральная торговая комиссия США (FTC) требует от компании документы, касающиеся, в частности, этого инцидента, пишет в четверг газета «Washington Post». Кроме того, она просит OpenAI предоставить информацию о том, насколько пользователи были осведомлены о том, что ChatGPT может предоставлять им ложную информацию. Комиссия также хочет получить информацию о мерах предосторожности, которые OpenAI принимает перед тем, как выложить в открытый доступ новые версии своего программного обеспечения.
Читайте также:
- Миллиардный потенциал для ChatGPT & Co – McKinsey
- ChatGPT выдал фиктивную информацию по делу американского адвоката
- Использование ChatGPT в административном управлении
Читайте также:
Обсуждение
Самые последние новости
