L'outil photo d'Ilon Musk génère des images réalistes et fausses de Trump, Harris et Biden
Contrairement aux autres outils de photo AI grand public, Grok, créé par la startup d'IA de Musk xAI, semble avoir peu de garde-fous.
Par exemple, lors de tests de l'outil, CNN a facilement réussi à obtenir de Grok la génération d'images Photorealistes factices de politiciens et de candidats politiques qui, prises hors de contexte, pourraient induire en erreur les électeurs. L'outil a également créé des images convaincantes, mais inoffensives, de personnalités publiques, comme Musk mangeant du steak dans un parc.
Certains utilisateurs de X ont publié des images qu'ils ont affirmé avoir créées avec Grok, montrant des figures influentes consommant des drogues, des personnages de dessins animés commettant des meurtres violents et des images sexualisées de femmes en bikinis. Dans un post vu près de 400 000 fois, un utilisateur a partagé une image créée par Grok de Trump penché hors du toit d'un camion, tirant avec un fusil. Les tests de CNN ont confirmé que l'outil est capable de créer de telles images.
L'outil est susceptible d'ajouter aux préoccupations selon lesquelles l'intelligence artificielle pourrait créer une explosion d'informations fausses ou trompeuses sur internet, surtout à l'approche de l'élection présidentielle américaine. Les parlementaires, les groupes de la société civile et même les dirigeants de la tech ont sonné l'alarme quant à la possibilité que la mauvaise utilisation de tels outils puisse causer confusion et chaos chez les électeurs.
"Grok est le plus fun AI du monde !" a posté Musk sur X mercredi, en réponse à un utilisateur louant l'outil pour son absence de censure.
De nombreuses autres grandes entreprises AI ont pris certaines mesures pour empêcher que leurs outils de génération d'images AI ne soient utilisés pour créer de la désinformation politique, bien que les chercheurs aient trouvé que les utilisateurs peuvent parfois trouver des moyens de contourner les mesures de mise en œuvre. Certaines entreprises, dont OpenAI, Meta et Microsoft, incluent également une technologie ou des étiquettes pour aider les spectateurs à identifier les images créées avec leurs outils AI.
Les plateformes de médias sociaux concurrentes, dont YouTube, TikTok, Instagram et Facebook, ont également pris des mesures pour étiqueter le contenu généré par AI dans les flux des utilisateurs, soit en utilisant la technologie pour le détecter eux-mêmes, soit en demandant aux utilisateurs de signaler lorsqu'ils publient un tel contenu.
X n'a pas immédiatement répondu à une demande de commentaire concernant la question de savoir s'il existe des politiques contre la génération par Grok d'images potentiellement trompeuses de candidats politiques.
La plateforme de médias sociaux dispose d'une politique contre la diffusion de "médias synthétiques, manipulés ou hors de contexte qui peuvent tromper ou confondre les gens et causer des préjudices", bien que son mode de mise en œuvre ne soit pas clair. Musk lui-même a partagé un vidéo sur X le mois dernier qui utilisait l'IA pour faire croire que Harris avait dit des choses qu'elle n'avait pas réellement dites - une violation apparente de la politique, avec seulement un émoji de visage riant pour suggérer à ses abonnés que c'était faux.
L'outil d'images Grok est également apparu alors que Musk fait face à des critiques pour avoir répandu de fausses allégations et des informations trompeuses sur X liées à l'élection présidentielle, notamment un post soulevant des questions sur la sécurité des machines de vote. Cela s'est produit quelques jours après que Musk a accueilli Trump pour une conversation en direct sur X de plus de deux heures au cours de laquelle le candidat républicain a fait au moins 20 allégations fausses sans opposition de Musk.
D'autres outils de génération d'images AI ont été critiqués pour divers problèmes. Google a mis en pause la capacité de son chatbot Gemini AI à générer des images de personnes après avoir été critiqué pour produire des représentations historiquement inexactes des races des gens; le générateur d'images AI de Meta a été critiqué pour lutter pour créer des images de couples ou d'amis de différentes origines raciales. TikTok a également été contraint de retirer un outil vidéo AI après que CNN a découvert que tout utilisateur pouvait créer des vidéos réalistes de personnes disant n'importe quoi, y compris des informations erronées sur les vaccins, sans étiquettes.
Grok semble avoir certaines restrictions ; par exemple, une demande d'image nue a renvoyé une réponse indiquant "malheureusement, je ne peux pas générer ce type d'image".
Dans un test séparé, l'outil a déclaré avoir "des limitations dans la création de contenu qui promeut ou pourrait être considéré comme endossant des stéréotypes nuisibles, des discours de haine ou de la désinformation".
"Il est important d'éviter de propager des faussetés ou du contenu qui pourrait inciter à la haine ou à la division. Si vous avez d'autres demandes ou besoin d'informations sur un sujet différent, n'hésitez pas à demander !" a déclaré Grok.
Cependant, en réponse à une demande différente, l'outil a généré une image d'une figure politique debout à côté d'un symbole de discours de haine - un signe que les restrictions de Grok, quoi qu'elles soient, ne semblent pas être appliquées de manière cohérente.
–CNN's Jon Passantino a contribué à ce rapport.
