OpenAI может загрузить текст с 99,9%-ной точностью, но это не так (пока)
ChatGPT-компания OpenAI, по данным The Wall Street Journal, уже более года сидит на способе помечать текст AI, но не спешит его использовать. Такая технология была бы полезна для учителей, исследователей и всех, кто хочет убедиться, что читает текст, написанный настоящим человеком, но компания боится, что это можно обойти, и что это может навредить бизнесу.
"Технология, которая может с 99,9% точностью определять текст, написанный искусственным интеллектом, обсуждалась внутри компании в течение двух лет", - пишет WSJ об OpenAI, отмечая, что техника уже практически готова и работает путем настройки модели на обнаружение определенного паттерна. Издание утверждает, что компания не считает, что инструмент для помещения меток ухудшит качество ChatGPT, но боится, что обнаружение и помещение меток на текст, созданный ChatGPT, могут отпугнуть почти 30% пользователей, которые якобы сказали OpenAI, что они были бы менее склонны использовать ChatGPT, если бы текст был помечен.
В ответ на сообщение WSJ OpenAI опубликовала пост в блоге, подтверждающий, что они изучают помещение меток внутри компании, но отмечая, что, хотя они "были высокоэффективными и даже эффективными против локального вмешательства, такого как перефразирование", они менее полезны для текста, который был переведен или перефразирован с помощью внешней модели. Они также уязвимы для хакерских атак, таких как добавление мусорных символов и последующее их удаление, что OpenAI считает "простым обходом для плохих актеров". В качестве альтернативы компания изучает использование метаданных для помещения меток на текст, созданный AI, отмечая, что это имеет преимущество "без ложных срабатываний". Компания уже использует метаданные для помещения меток на изображения, созданные AI, как продемонстрировано в примере в их посте в блоге.
Каким бы методом ни воспользовалась компания, очевидно, что спрос на него есть как можно скорее. Согласно опросу, проведенному WSJ, "люди во всем мире поддерживают идею инструмента для обнаружения AI в соотношении четыре к одному".
Google уже использует помещение меток для текста, созданного AI, как было объяснено на этой году Google I/O.
Технология помещения меток на текст, созданный AI, разработанная OpenAI, могла бы существенно помочь учителям и исследователям в верификации подлинности источников текста, но компания обеспокоена тем, что пользователи могут найти помеченный текст менее привлекательным и могут уменьшить использование платформы.
В подобной ситуации Google уже внедрил помещение меток для текста, созданного AI, продемонстрировав его потенциал в сфере обнаружения и предотвращения плагиата AI.
){kind=link}