Как узнать, что вы общаетесь с ботом
Эта статья является частью серии Lifehacker «Разоблачение ИИ». Мы исследуем шесть различных типов медиа, созданных с помощью ИИ, и выявляем общие особенности, побочные продукты и признаки, которые помогут отличить искусственное от человеческого контента.
Сегодня много общения происходит в текстовом виде. Вы можете обмениваться сообщениями с кем-то на сайте знакомств или связаться с представителем компании, когда вам нужна служба поддержки клиентов, вместо того чтобы разговаривать по телефону с любой из сторон. Проблема в том, что вы никогда не знаете, кто с вами общается, когда общение происходит только в текстовом виде. Более того, вы можете и вовсе не общаться с человеком.
Конversational AI продвинулся вперед в последние годы, и появление ботов вроде ChatGPT только ускорило этот процесс. Эти боты уже были сложно различимы до того, как умный ИИ сделал возможным имитировать человеческий язык в пугающей степени. Но даже по мере быстрого развития этой технологии она все еще далековата от идеала. Существует несколько признаков ИИ-ботов, на которые можно обратить внимание, чтобы определить, действительно ли человек, с которым вы общаетесь, тот, за кого себя выдает.
Как работают чат-боты?
Современные чат-боты работают на основе больших языковых моделей (LLM). Эти модели обучаются на наборах данных, содержащих огромное количество текста: со временем модель учится распознавать связи между словами и фразами, которые используются для формирования ответов. Когда вы задаете боту вопрос, он разбивает ваш запрос на то, что, по его мнению, являются наиболее важными частями, а затем использует свои знания из обучения, чтобы угадать, какие слова имеют смысл для ответа. Он не понимает что говорит, а только то, что эта последовательность слов имеет смысл на основе своего набора данных.
На основе этого разработчики могут дать своим чат-ботам конкретные инструкции о том, как отвечать на запросы, чтобы лучше контролировать опыт для конечного пользователя. Это особенно полезно, если разработчик хочет, чтобы его чат-бот играл определенную роль, например, представителя службы поддержки клиентов: вы, возможно, не хотите, чтобы ваш представитель болтал о нерелевантных темах или вступал в споры с пользователем. Его инструкции могут сделать трудно отличить, действительно ли человек, с которым вы общаетесь, хорошо обученный сотрудник или робот.
С другой стороны, возможно, разработчик создал чат-бота для знакомств, инструкции которого гласят, не capitalize the first word of a response, use "lol" and winking faces often, and to take on a casual tone. Suddenly, вы не общаетесь с клоном ChatGPT, а с ботом, который не звучит так уж роботизировано.
Хотя становится все труднее распознать чат-ботов, это не невозможно. Напротив, есть много признаков, на которые стоит обратить внимание, продолжая общаться с людьми в интернете:
Обращайте внимание на странные выбор слов
Ранее эта статья советовала читателям обращать внимание на неловкие фразы, поскольку лучшие конверсационные боты той эпохи были подвержены странным сложностям английского языка. С тех пор большие языковые модели быстро продвинулись вперед и теперь имеют сильное владение английским языком. Теперь редко бывает, чтобы чат-бот выдавал что-то, что заставляло бы его звучать так, будто он не понимает язык, который использует: он, в самом деле, не понимает, но научился достаточно связей между словами, чтобы знать, как их располагать так, чтобы это имело смысл для людей.
Тем не менее, некоторые из слов, которые эти модели выбирают, действительно странные. Как я объясняю в этой статье о распознавании текста ИИ, модели OpenAI часто используют серию слов, которые не являются особенно распространенными в повседневной беседе. Вы увидите вещи вроде "delve into," "underscores," "groundbreaking," и "tapestry," когда они описывают концепции, и хотя ни одно из этих слов само по себе не является убедительным, повторяющееся использование таких слов может быть признаком того, что ваш "друг" на самом деле работает на основе большой языковой модели.
Ищите повторение
Боты этого типа также склонны быть чрезвычайно однобокими. Человеческое общение, как правило, более гибкое — темы вводятся, отбрасываются и затем поднимаются снова позже. Но специализированные чат-боты, как правило, конструктируются для конкретных целей, и они будут настойчиво преследовать эти цели, что бы вы ни делали. Это просто часть их базовых инструкций. Если вы заметите, что "человек", с которым вы общаетесь или переписываетесь, продолжает возвращаться к одной и той же рекомендации или решению, независимо от того, что вы говорите, вы, возможно, имеете дело с ботом. Если они буквально повторяют ту же фразу каждый раз, это еще более сильный признак, потому что люди, как правило, меняют то, как они формулируют вещи — особенно если они чувствуют, что не добиваются успеха.
Еще один вид повторения, на который стоит обратить внимание? Повторение вашего вопроса вам. Если вы спросите "Капитал США?", бот может ответить "Капитал США — Вашингтон, округ Колумбия", вместо того чтобы просто сказать "Вашингтон, округ Колумбия" или "Д.С. Дuh". Чат-боты любят включать часть вашего предыдущего сообщения в свой ответ, в то время как наши ответы в повседневных беседах, как правило, лаконичны.
Боты проделали долгий путь, но все еще могут давать расплывчатые, бессмысленные ответы на ваши запросы, особенно если вы пытаетесь поговорить о серьезных или сложных темах. Опять же, они будут повторять то, что вы только что сказали, чтобы создать иллюзию внимания. Это на самом деле старая уловка. "Терапевт-чатбот" Элиза, разработанный в 1960-х годах, использует ее постоянно. Если вы скажете ей: "Я грущу", она ответит: "Сколько времени вы уже грустите?" Это простая алгоритмическая конструкция, но она создает иллюзию сознания. Боты теперь основаны на больших языковых моделях и не обязательно программируются таким традиционным образом, но их ответы все еще могут быть бесполезными в зависимости от темы.
Если ваш друг постоянно отвечает на ваши сообщения "советами", которые звучат так, как будто они были написаны дешевым мистером Роджерсом, возможно, это бот.
Обратите внимание на скорость ответа
Еще один знак того, что вы имеете дело с ИИ, - скорость их ответов. Боты могут генерировать ответы намного быстрее, чем люди. Если вы когда-либо просили ChatGPT написать для вас эссе, вы можете увидеть, насколько быстро эти модели способны генерировать текст. Если ответы приходят к вам моментально или другой человек может мгновенно предоставить информацию, которую человеку следовало бы разумно потратить некоторое время на поиск, вы либо имеете дело с ботом, либо с самым талантливым представителем службы поддержки клиентов во вселенной.
Они всегда доступны?
Это не только скорость ответа. В отличие от людей, боты всегда готовы к общению - утром, днем и ночью. Если "человек", с которым вы общаетесь, всегда готов поговорить, независимо от времени суток, это большой красный флаг. Конечно, есть люди, которые постоянно сидят на своих телефонах, но все мы делаем перерыв хоть иногда. Обратите внимание, задерживается ли ваш собеседник или каждый и каждый ваш ответ сразу же следует ответом.
Они немного слишком энтузиасты?
Чатботы разработаны, чтобы быть полезными в выполнении той задачи, для которой они были запрограммированы. По какой-то причине они часто интерпретируют эту задачу как необходимость быть чрезмерно дружелюбными и готовыми угодить, что выглядит странно. Эти боты всегда "рады помочь с чем угодно", искренне сожалеют, если что-то не так, и хотят, чтобы вы знали, "они понимают". Хотя быть эмпатом хорошо, большинство людей не падают на пол, чтобы доказать свою преданность вам с каждым сообщением. В случае общения по тексту будьте скептиком.
Они совершают неправильные ошибки
Современные чатботы не делают орфографических или грамматических ошибок: они просто не обучаются этому. Опять же, они выбирают слова в том порядке, который имеет смысл в их обучении, что будет грамматически правильным. Эти слова также все будут написаны правильно, поэтому они не обучаются на ошибках. Человеческие наборщики текста ошибаются все время. Сколько раз вы вели беседу по тексту, в которой другой человек не сделал хотя бы одной опечатки? Независимо от того, признаете ли вы это, идеальная орфография и грамматика все время - это красный флаг.
Тем не менее, это не значит, что боты идеальны. Хотя их синтаксис может быть отличным, они могут просто выдумывать вещи. Это называется галлюцинацией, и все ИИ время от времени этим занимаются. Если вы замечаете, что ваш партнер выдумывает факты и придерживается их, они либо бот, либо просто очень упрямы в своем невежестве.
Сделайте "безумный Иван"
Если вы подозреваете, что имеете дело с ботом, но не уверены, есть тест, который вы можете попробовать. В фильме "Охота за "Красным Октябрем" капитан подводной лодки, played by Sean Connery, известен своими "безумными Иванами" во время плавания под водой - внезапно поворачивает свой корабль, чтобы увидеть, не прячется ли вражеская подлодка в его кильватере. Такой неожиданный маневр может нарушить работу ИИ так же, как и подводную лодку.
Хотя общение с ИИ стало очень продвинутым, и трудно определить, что вы не общаетесь с человеком после короткого общения, боты по-прежнему испытывают трудности с неожиданными вопросами. Особенно это касается эмоций и человеческих отношений. В середине беседы спросите своего подозреваемого бота о его семье или скажите, что вы грустите, просто чтобы увидеть реакцию. В прошлом такой тип прерывания мог разрушить личность бота, но чатботы достаточно умны сегодня, чтобы хотя бы включить внезапный вопрос в свой ответ. Тем не менее, это все еще может раскрыть их природу LLM: бот может сказать: "О нет! Мне жаль, что вы грустите. Но давайте останемся в теме..." или погрузиться в длинную серию советов о том, как справиться с вашей предполагаемой грустью, ответы, которые не совсем те, которых вы ожидаете от обычного собеседника.
Есть много "безумных Иванов", которые вы можете попробовать. Лично мне нравится переключать язык беседы. Скажите своему "другу", что вы бы предпочли продолжить беседу на другом языке. Вы даже можете сказать, что они упоминали, что они свободно говорят на этом языке, даже если они никогда этого не делали. Реальный человек отреагирует с удивлением, а бот может с радостью согласиться помочь вам. "Конечно, давайте переключимся на исландский! Hvað viltu ræða um?" Я даже обнаружил, что даже если бот отказывается переключать язык, они могут отвечать на вопросы на другом языке так, как если бы вы задали их на английском.
Конечно, если вы действительно общаетесь с настоящим человеком, эти приемы "Крейзи Айвана" действительно могут его напугать. Изучите эту реакцию: подходящее "чувак...wtf" может быть все, что вам нужно, чтобы узнать, что они на 100% человек.
Введение продвинутых чат-ботов, подобных ChatGPT, сделало еще более сложным различение между человеческими и созданными AI разговорами. Иногда эти чат-боты получают конкретные инструкции по имитации человеческой речи и манер, что делает их трудными для распознавания.
Несмотря на сложность этих больших языковых моделей, они все еще могут производить необычные выборы слов. Разработчики часто обучают эти модели на обширных текстовых наборах данных, что приводит к включению в них менее распространенных фраз в ответных разговорах. Эта нестабильность может служить признаком того, что вы, возможно, общаетесь с чат-ботом AI.
