Les cybercriminels n'apprécient guère ChatGPT
Les prestataires de services de sécurité étudient la manière dont les cybercriminels utilisent ChatGPT & Co. Il en ressort qu'ils utilisent certes de grands modèles de langage, mais qu'ils considèrent plutôt leurs possibilités comme surfaites et superflues. La combinaison des criminels et de ChatGPT n'en est pas moins dangereuse.
Le chatbot ChatGPT a été publié il y a exactement un an et a fait beaucoup de bruit, pratiquement à l'improviste. Les possibilités du grand modèle linguistique (Large Language Models : LLM) sont en effet énormes, notamment grâce à sa polyvalence. Ainsi, ChatGPT peut également écrire ou améliorer du code. Dès le début, on a donc craint que l'IA puisse également être utilisée pour générer des logiciels malveillants.
Mais jusqu'à présent, les pirates criminels n'ont guère utilisé ChatGPT à cette fin, comme l'ont constaté deux entreprises de sécurité dans des études séparées. Les experts criminels considèrent même ce modèle comme surestimé, voire superflu, écrit Sophos dans un rapport actuel. Trend Micro était déjà parvenu à une conclusion similaire dans une étude précédente.
Afin d'avoir une vue d'ensemble de l'utilisation criminelle de l'IA, les prestataires de services de sécurité ont analysé les discussions sur les forums du Darknet, dans lesquelles les cybercriminels discutent de ChatGPT & Co. Sophos a constaté que l'IA n'y était pas un sujet brûlant. Dans deux forums, les experts de l'entreprise ont trouvé à peine une centaine de messages à ce sujet, alors qu'il y en avait près de 1000 sur les cryptomonnaies.
Les professionnels ont des doutes
Ils supposent notamment que de nombreux cybercriminels considèrent l'IA générative comme n'en étant encore qu'à ses débuts. Les discussions à ce sujet sur les forums du darknet ne seraient en outre pas aussi lucratives que sur les réseaux sociaux, où elles permettent d'attirer une grande attention.
De nombreux criminels craignent également que l'utilisation de l'IA ne laisse des traces que les programmes antivirus pourraient détecter, selon Sophos. De même, les logiciels qui surveillent en temps réel les terminaux dans les réseaux (Endpoint Detection and Response : EDR) pourraient leur mettre la puce à l'oreille.
Les objections à l'IA ont des pieds et des mains. Les membres des forums sont souvent des criminels, mais parmi eux se trouvent des hackers très compétents qui savent évaluer la complexité des nouvelles technologies. Comme l'ont constaté Trend Micro et Sophos, ils n'utilisent donc pratiquement pas ChatGPT & Co. pour générer des logiciels malveillants.
Améliorer le code et l'ingénierie sociale
Au lieu de cela, ils utilisent principalement les grands modèles de langage, comme d'autres développeurs, pour améliorer leur code. Les criminels utilisent en outre volontiers ChatGPT pour ce que l'on appelle l'ingénierie sociale, afin de rendre leurs campagnes de spam et de phishing plus efficaces. Pour cela, ils ont notamment besoin d'e-mails rédigés de manière trompeuse, qui incitent les utilisateurs à ouvrir des pièces jointes contaminées ou à cliquer sur des liens dangereux.
Il ne faut pas espérer reconnaître un e-mail de phishing à partir de fautes de langue, écrivait déjà au printemps Cameron Camp de l'entreprise de sécurité ESET. Expert . Selon lui, l'IA maîtrise probablement mieux une langue maternelle que les utilisateurs ne le font.
Les jailbreaks sont un grand sujet
Divers filtres doivent empêcher ChatGPT de répondre à des questions nuisibles, illégales ou inappropriées, qui intéressent bien sûr particulièrement les criminels. Il pourrait également s'agir de la planification d'un crime dans le monde réel.
C'est pourquoi l'un des grands thèmes des forums du darknet est de savoir comment franchir ces barrières. Les "jailbreaks", qui permettent un accès pratiquement libre, sont particulièrement demandés. Depuis les premiers jours de ChatGPT, le fameux DAN, qui signifie "Do Anything Now" ("Faites tout maintenant"), est tristement célèbre. Le code est constamment adapté, c'est une sorte de jeu du chat et de la souris entre les développeurs de ChatGPT et les jailbreakers.
Il est encore plus fréquent que des comptes ChatGPT piratés soient proposés à la vente sur les forums du darknet, écrit Sophos. Cela n'est guère surprenant. Il n'est toutefois pas clair à quel groupe cible ces comptes s'adressent et ce que les acheteurs peuvent en faire. Il est possible qu'ils accèdent à des requêtes antérieures pour obtenir des informations confidentielles, supposent les experts. Les acheteurs pourraient également utiliser l'accès pour effectuer leurs propres recherches ou vérifier la réutilisation des mots de passe.
Les LLM criminels jusqu'à présent surtout de l'air chaud
Les experts en sécurité trouvent particulièrement intéressant que des modèles criminels aient été et soient proposés sur les forums. Les plus connus sont WormGPT et FraudGPT.
WormGPT a été publié en juin de cette année et se serait basé sur le modèle GPTJ. Le chatbot coûtait 100 euros par mois ou 550 euros par an. En août, le développeur l'a toutefois déjà arrêté - soi-disant en raison de la grande attention médiatique.
Mais il a également écrit : "En fin de compte, WormGPT n'est rien d'autre qu'un ChatGPT illimité. N'importe qui sur Internet peut appliquer une technique de jailbreak connue et obtenir les mêmes résultats, si ce n'est meilleurs". Plusieurs membres du forum ont soupçonné une fraude, écrit Sophos.
Il en va de même pour FraudGPT. En outre, certains doutent des capacités du modèle. Ainsi, un membre a demandé dans le chat s'il pouvait vraiment générer des malwares que les logiciels antivirus ne peuvent pas détecter. Il a reçu une réponse claire.
Chaque logiciel malveillant est détecté une fois.
Non, c'est impossible, peut-on y lire. Les LLM ne sont tout simplement pas en mesure de le faire. Ils ne peuvent ni traduire ni "comprendre" le code au-delà de la langue dans laquelle il a été écrit. De même, les logiciels malveillants qui ne peuvent pas être détectés n'existent pas, selon l'auteur. Tôt ou tard, tout code malveillant est découvert.
Des doutes sur l'authenticité et/ou la performance existent également pour tous les autres chatbots criminels connus à ce jour. Trend Micro écrit à ce sujet qu'il pense, malgré toutes les controverses, que WormGPT était très probablement le seul exemple d'un LLM réellement personnalisé.
Les criminels expérimentés attendent, les script kiddies font la fête
Pour les cybercriminels expérimentés, "il n'est pas nécessaire de développer un LLM séparé comme ChatGPT, car ChatGPT fonctionne déjà suffisamment bien pour leurs besoins", résume Trend Micro. Ils utilisaient l'IA de la même manière que les programmeurs légitimes. Sophos n'a pas non plus trouvé chez eux d'indices permettant de générer des malwares à l'aide de l'IA. Elle n'est utilisée que pour certains outils d'attaque. Mais cela pourrait changer à l'avenir.
Un bonus pour les cybercriminels expérimentés est qu'ils peuvent désormais améliorer leur code sans trop d'efforts et écrire des malwares dans des langages informatiques qu'ils ne maîtrisent pas très bien. Sophos a également constaté que l'aide de l'IA leur permettait d'effectuer des tâches de programmation quotidiennes ou d'améliorer leurs forums.
Les deux entreprises de sécurité considèrent que l'utilisation de l'IA a abaissé la barrière d'entrée pour devenir un hacker criminel. N'importe qui avec une boussole morale brisée peut désormais commencer à développer des logiciels malveillants sans connaissances en programmation, selon Trend Micro.
Source: www.ntv.de
