Comment savoir si vous discutez avec un bot
Voici un article faisant partie de la série « Dénouer l’IA » de Lifehacker. Nous explorons six types différents de médias générés par l’IA et mettons en évidence les particularités, sous-produits et caractéristiques communes qui vous aident à distinguer le contenu artificiel de celui créé par l’être humain.
De nos jours, une grande partie de la communication se fait par écrit. Vous pouvez échanger des messages avec un match sur une application de rencontres ou entrer en contact avec un représentant de la clientèle d’une entreprise lorsque vous avez besoin d’une assistance, plutôt que de parler au téléphone avec l’une ou l’autre de ces parties. Le problème, c’est que vous ne savez jamais qui vous êtes en train de parler lorsque la conversation se déroule entièrement par écrit. En fait, vous pourriez ne pas être en train de discuter avec une personne.
L’IA conversationnelle a fait de grands progrès ces dernières années, et l’introduction de chatbots comme ChatGPT a encore accéléré la situation. Ces bots étaient déjà difficiles à repérer avant que l’IA intelligente ne rende possible de singer le langage humain dans une mesure effrayante. Cependant, même si cette technologie progresse rapidement, elle est loin d’être parfaite. Il existe certains indices qui vous permettent de déterminer si la « personne » à l’autre bout du chat est vraiment celle qu’elle prétend être.
Comment fonctionnent les chatbots ?
Les chatbots modernes sont alimentés par de grands modèles linguistiques (GML). Ces modèles sont formés sur des ensembles de données contenant une quantité immense de texte : au fil du temps, le modèle apprend les relations entre les mots et les phrases, ce qui lui permet d’informer ses réponses. Lorsque vous posez une question au chatbot, il décompose votre entrée en ce qu’il considère être les parties les plus importantes, puis il puise dans son apprentissage pour deviner quels mots ont du sens pour y répondre. Il ne comprend pas ce qu’il dit, il sait seulement que cette série de mots a du sens en fonction de son ensemble de données.
En se basant sur cela, les développeurs peuvent donner à leurs chatbots des instructions spécifiques sur la manière de répondre aux requêtes pour mieux contrôler l’expérience pour l’utilisateur final. Cela est particulièrement utile si le développeur veut que son chatbot tienne un rôle particulier, comme celui d’un représentant de la clientèle : vous ne voulez peut-être pas que votre représentant débite des sujets non liés à l’entreprise, ni qu’il se dispute avec l’utilisateur. Ses instructions peuvent donc rendre difficile de déterminer si la personne à l’autre bout est un employé bien formé ou un robot.
À l’inverse, peut-être qu’un développeur crée un chatbot de rencontres dont les instructions disent de ne jamais mettre la première lettre d’une réponse en majuscule, d’utiliser souvent « lol » et des smileys clin d’œil, et d’adopter un ton décontracté. Suddenly, vous n’êtes plus en train de discuter avec un clone de ChatGPT, mais avec un bot qui ne semble pas tout à fait aussi robotique.
Bien que cela devienne de plus en plus difficile de repérer les chatbots, ce n’est pas impossible. Au contraire, il y a beaucoup d’indices à surveiller lorsque vous continuez à échanger des messages avec des gens sur Internet :
Faites attention aux choix de mots étranges
Une version antérieure de cet article conseillait aux lecteurs de faire attention aux phrases maladroites, car les meilleurs chatbots conversationnels de l’époque étaient sujets aux bizarreries de la langue anglaise. Depuis, les grands modèles linguistiques ont rapidement progressé et ont maintenant une bonne maîtrise de l’anglais. Il est rare qu’un chatbot sorte quelque chose qui le fasse passer pour ne pas comprendre la langue qu’il utilise : en fait, il ne comprend pas, mais il a appris suffisamment de relations entre les mots pour savoir comment les agencer de manière à ce qu’ils aient du sens pour les humains.
Cela dit, certains des mots que ces modèles décident d’utiliser sont étranges. Comme je l’explique dans cet article sur la détection du texte généré par l’IA, les modèles d’OpenAI utilisent souvent une série de mots qui ne sont pas nécessairement très courants dans les conversations décontractées. Vous verrez des choses comme « se pencher sur », « mettre en évidence », « révolutionnaire » et « tapisserie » lorsqu’ils décrivent des concepts, et bien que aucun de ces termes ne soit accablant en soi, en voir plusieurs utilisés régulièrement peut être un signe que votre « ami » est en réalité alimenté par un grand modèle linguistique.
Recherchez la répétition
Les bots de ce type ont également tendance à être extrêmement unidimensionnels. La conversation humaine est fluide – les sujets sont introduits, abandonnés, puis repris plus tard. Mais les chatbots spécialisés sont généralement conçus pour des
Bien que les bots aient fait de grands progrès, ils peuvent encore fournir des réponses floues et sans signification à vos requêtes, surtout si vous abordez des sujets lourds ou sérieux. Encore une fois, ils répéteront ce que vous venez de dire pour donner l'illusion d'être attentifs. C'est en réalité une vieille astuce. ELIZA, le "chatbot thérapeute" développé dans les années 1960, l'utilise constamment. Si vous lui dites "Je suis triste", elle répond "Depuis combien de temps es-tu triste ?". C'est une simple construction algorithmique, mais elle donne l'illusion d'avoir de la sensibilité. Les chatbots sont maintenant basés sur les LLMs, et ne sont pas nécessairement programmés de cette manière traditionnelle, mais leurs réponses peuvent encore être un peu inutiles selon le sujet.
Si votre ami répond constamment à vos messages avec des "conseils" qui ont l'air d'avoir été écrits par un Mr. Rogers à bas prix, il se peut qu'il soit un bot.
Notez la vitesse de réponse
Autre signe que vous avez affaire à un IA, c'est la vitesse de leurs réponses. Les bots peuvent générer des réponses beaucoup plus rapidement que les humains. Si vous avez déjà demandé à ChatGPT d'écrire un essai, vous pouvez voir à quelle vitesse ces modèles sont capables de générer du texte. Si les chats vous reviennent instantanément, ou si l'autre partie est capable de vous donner instantanément des informations qu'un humain devrait raisonnablement prendre un peu de temps pour chercher, vous avez affaire à un bot ou au meilleur agent de service client de l'univers.
Sont-ils toujours disponibles ?
Ce n'est pas seulement la vitesse de réponse, non plus. Contrairement aux humains, les bots sont toujours disponibles pour discuter - matin, midi et soir. Si la "personne" avec qui vous discutez a toujours l'air disposée à parler, quelle que soit l'heure de la journée, c'est un gros signe d'alarme. Bien sûr, il y a des gens constamment sur leur téléphone, mais nous prenons tous une pause à un moment donné. Remarquez si votre partenaire de conversation vous fait attendre, ou si chaque message que vous lui envoyez est suivi d'une réponse rapide.
L'autre "personne" est-elle un peu trop enthousiaste ?
Les chatbots sont conçus pour être utiles pour la tâche qui leur est confiée. Pour une raison ou une autre, ils interprètent souvent cette tâche comme étant excessivement amical et empressé de plaire, ce qui semble étrange. Ces bots sont toujours "ravis de vous aider en quoi que ce soit", se sentent "très mal" pour vous chaque fois que quelque chose ne va pas, et veulent que vous sachiez "qu'ils comprennent". Bien que ce soit bien d'être empathique, la plupart des gens ne se jettent pas par terre pour vous prouver leur valeur à chaque message. En ce qui concerne la messagerie texte, soyez cynique.
Ils font les mauvaises erreurs
Les chatbots modernes ne font pas de fautes d'orthographe ou de grammaire : ils ne sont tout simplement pas entraînés pour cela. Encore une fois, ils choisissent des mots en fonction de l'ordre qui a du sens dans leur apprentissage, ce qui sera grammaticalement correct. Ces mots sont également tous correctement orthographiés, ils ne sont donc pas entraînés pour faire des fautes de frappe. Les dactylographes humains, en revanche, se trompent tout le temps. Combien de fois avez-vous eu une conversation en texte où l'autre personne n'a pas fait au moins une faute de frappe ? Que vous le reconnaissiez ou non, une orthographe et une grammaire parfaites en permanence sont un signe d'alarme.
Cependant, cela ne signifie pas que les bots sont parfaits. Bien que leur syntaxe soit excellente, ils peuvent simplement inventer des choses. C'est ce qu'on appelle la "hallucination", et tous les AI le font de temps en temps. Si vous remarquez que votre partenaire invente des faits et s'y tient, il se peut qu'il soit un bot, ou simplement très têtu dans son ignorance.
Faites un "Crazy Ivan"
Si vous soupçonnez que vous avez affaire à un bot mais que vous n'en êtes pas sûr, il y a un test que vous pouvez essayer. Dans le film Le chasseur d'octobre rouge , le capitaine de sous-marin russe joué par Sean Connery est connu pour faire des "Crazy Ivans" en naviguant sous l'eau - tournant suddenly son bateau pour voir si un sous-marin ennemi se cache dans son sillage. Cette sorte de mouvement surprise peut désorganiser un IA également.
Bien que la conversation AI soit devenue extrêmement sophistiquée et qu'il soit difficile de dire d'une brève interaction que vous n'êtes pas en train de parler à un être humain, les bots ont encore du mal avec les non-séquiturs. Cela est particulièrement vrai en ce qui concerne les émotions et les relations humaines. Au milieu de la conversation, demandez à votre bot suspect de vous parler de sa famille, ou dites-lui que vous êtes déprimé, juste pour voir la réaction. Par le passé, ce type d'interruption pouvait briser la personnalité du bot, mais les chatbots sont suffisamment intelligents aujourd'hui pour au moins intégrer la question hors sujet dans leur réponse. Cela peut encore révéler leur nature LLM : un bot pourrait dire "Oh non ! Je suis désolé d'apprendre que vous êtes déprimé. Mais restons-en au sujet..." ou se lancer dans une longue série de suggestions pour vous aider à gérer votre soi-disant dépression, des réponses qui ne sont pas tout à fait ce à quoi on s'attendrait d'un interlocuteur humain.
Il y a plein de "Crazy Ivan" que vous pouvez faire ici. Mon préféré personnel ? Changer la langue de la conversation. Dites à votre "ami" que vous préféreriez continuer la conversation dans une autre langue. Vous pourriez même suggérer que l'ami a mentionné être fluant dans cette langue, même s'il ne l'a jamais fait. Une personne réelle réagirait avec confusion, tandis qu'un bot pourrait sauter sur l'occasion de vous aider. "Bien sûr, passons à l'islandais ! Hvað viltu ræða um ?" J'ai même trouvé que même si le bot résistait à changer de langue, il pouvait encore répondre aux questions dans une autre langue comme si vous les aviez posées en anglais.
Bien sûr, si vous discutez réellement avec une personne réelle, ces astuces "Crazy Ivan" vont vraiment lui faire peur. Étudiez sa réaction : une réaction "dude...wtf" appropriée pourrait être tout ce dont vous avez besoin pour savoir qu'elle est 100% humaine.
L'introduction de chatbots avancés comme ChatGPT a rendu encore plus difficile de distinguer les conversations humaines de celles générées par l'IA. Parfois, ces chatbots reçoivent des instructions spécifiques pour imiter le langage et les manières humaines, ce qui les rend difficiles à repérer.
Malgré la sophistication de ces grands modèles linguistiques, ils peuvent encore produire des choix de mots inhabituels. Les développeurs entraînent souvent ces modèles sur des ensembles de données textuelles étendus, ce qui les amène à intégrer des phrases moins courantes dans les réponses conversationnelles. Cette incohérence peut servir d'indicateur pour savoir si vous êtes en train de discuter avec un chatbot IA.
