Qui n’a pas utilisé ChatGPT à ce stade ? C’est amusant, absolument fascinant si vous vous intéressez à l’intelligence artificielle, et gratuit (pour l’instant).
Bien que généralement décrit comme un chatbot, ChatGPT est bien plus que cela. Il peut générer du texte, expliquer des sujets complexes, agir en tant que traducteur, inventer des blagues et écrire du code. Mais il peut aussi être militarisé par des acteurs menaçants.
Comment fonctionne ChatGPT et pourquoi il attire les cybercriminels
ChatGPT (Generative Pre-trained Transformer) a été développé par le laboratoire de recherche en intelligence artificielle OpenAI, et a été lancé en novembre 2022. Il s’agit d’un grand modèle de langage qui utilise une combinaison de techniques d’apprentissage automatique supervisé et par renforcement.
Peut-être plus important encore, ChatGPT est constamment affiné et formé par les utilisateurs, qui peuvent voter pour ses réponses vers le haut ou vers le bas, ce qui le rend d’autant plus précis et puissant qu’il collecte des données par lui-même.
C’est ce qui distingue ChatGPT des autres chatbots. Et si vous l’avez déjà utilisé, vous savez que la différence est immédiatement perceptible : contrairement à d’autres produits similaires, il peut participer activement à une conversation et accomplir des tâches complexes avec une précision étonnante, tout en fournissant des réponses cohérentes et humaines.
Si on vous montrait un court essai écrit par un humain et un écrit par ChatGPT, vous auriez probablement du mal à dire lequel est lequel. À titre d’exemple, voici une partie du texte généré par ChatGPT lorsqu’on lui a demandé d’écrire un court essai sur The Catcher in the Rye.
Cela ne veut pas dire que ChatGPT n’a pas ses limites, c’est certainement le cas. Plus vous l’utiliserez, plus vous remarquerez que c’est le cas. Aussi puissant soit-il, il peut toujours lutter avec la logique élémentaire, faire des erreurs, partager des informations fausses et trompeuses, interpréter de manière comique des instructions erronées et être manipulé pour parvenir à la mauvaise conclusion.
Mais la puissance de ChatGPT ne réside pas dans sa capacité à parler. Il réside plutôt dans sa capacité presque illimitée à accomplir des tâches en masse, plus efficacement et beaucoup plus rapidement qu’un humain. Avec les bonnes entrées et commandes, et quelques solutions de contournement créatives, ChatGPT peut être transformé en un outil d’automatisation d’une puissance inquiétante.
Dans cet esprit, il n’est pas difficile d’imaginer comment un cybercriminel pourrait armer ChatGPT. Il s’agit de trouver la bonne méthode, de la mettre à l’échelle et de laisser l’IA accomplir autant de tâches que possible à la fois, avec plusieurs comptes et sur plusieurs appareils si nécessaire.
5 choses que les acteurs peuvent faire avec ChatGPT
Il existe déjà des exemples concrets d’utilisation de ChatGPT par des acteurs malveillants, mais il est plus que probable qu’il soit militarisé de différentes manières, ou qu’il le soit à un moment donné dans le futur. Voici cinq choses que les pirates peuvent (et probablement font) faire avec ChatGPT.
1. Écrivez des logiciels malveillants
Si ChatGPT peut écrire du code, il peut écrire des logiciels malveillants. Pas de surprise là-bas. Mais ce n’est pas qu’une simple possibilité théorique. En janvier 2023, la société de cybersécurité Check Point Research a découvert que les cybercriminels utiliser ChatGPT pour écrire des logiciels malveillants-et s’en vanter sur les forums underground.
L’acteur menaçant découvert par Check Point Research a utilisé le chatbot avancé de manière assez créative pour recréer des logiciels malveillants basés sur Python décrits dans certaines publications de recherche. Lorsque les chercheurs ont testé le logiciel malveillant, le cybercriminel a dit la vérité : son logiciel malveillant généré par ChatGPT a fait exactement ce pour quoi il était conçu.
2. Générez des e-mails de phishing
Aussi puissants que soient devenus les filtres anti-spam, e-mails de phishing dangereux passe encore entre les mailles du filet, et il n’y a pas grand-chose qu’une personne moyenne puisse faire à part signaler l’expéditeur à son fournisseur. Mais un pirate qualifié peut faire beaucoup avec une liste de diffusion et un accès à ChatGPT.
Avec les bonnes commandes et suggestions, ChatGPT peut générer des e-mails de phishing convaincants, automatisant potentiellement le processus pour l’acteur de la menace et lui permettant d’étendre ses opérations.
3. Créer des sites frauduleux
Si vous venez de rechercher sur Google le terme “créer un site Web avec ChatGPT”, vous trouverez des tonnes de tutoriels expliquant en détail comment le faire. Bien que ce soit une bonne nouvelle pour quiconque cherche à créer un site Web à partir de rien, c’est également une bonne nouvelle pour les cybercriminels. Qu’est-ce qui les empêche d’utiliser ChatGPT pour créer un tas de sites frauduleux ou des pages de destination de phishing ?
Les possibilités sont presque infinies. Un pirate peut cloner un site Web existant à l’aide de ChatGPT, puis le modifier, créer de faux sites de commerce électronique, un site Web avec des escroqueries de type scarewareetc.
4. Créez du contenu de spam
Pour créer un faux site Web, gérer une page frauduleuse sur les réseaux sociaux ou créer un site imitateur, vous avez besoin de contenu, en grande quantité. Et il doit avoir l’air aussi légitime que possible pour que l’arnaque fonctionne. Pourquoi un pirate embaucherait-il des rédacteurs de contenu ou rédigerait-il lui-même des articles de blog, alors qu’il peut simplement laisser ChatGPT le faire à sa place ?
Certes, un site Web avec du contenu généré par l’IA sera probablement pénalisé assez rapidement par Google et n’apparaîtra pas dans les résultats de recherche, mais il existe de nombreuses façons pour un pirate informatique de promouvoir un site Web, de générer du trafic vers celui-ci et d’arnaquer les gens. leur argent ou voler leurs informations personnelles.
5. Diffuser la désinformation et les fausses nouvelles
La désinformation en ligne est devenue un problème majeur ces dernières années. Les fausses nouvelles se sont répandues comme une traînée de poudre sur les réseaux sociaux, et les personnes qui ne s’y connaissent pas tombent souvent dans le piège d’histoires trompeuses – et parfois littéralement inventées. Cela peut avoir des conséquences désastreuses dans le monde réel, et il semble que personne ne sache comment arrêter la propagation de fausses nouvelles sans violer les lois sur la liberté d’expression.
Des outils comme ChatGPT peuvent exacerber ce problème. Les acteurs de la menace qui ont accès à des logiciels capables de générer chaque jour des milliers de fausses nouvelles et de publications sur les réseaux sociaux semblent être une recette pour un désastre.
Ne nous croyez pas sur parole
Si vous n’êtes pas convaincu, nous avons demandé à ChatGPT comment un cybercriminel l’utiliserait. Cela semble correspondre au propos de cet article.
Entre de mauvaises mains, ChatGPT devient dangereux
On ne peut qu’imaginer de quoi l’intelligence artificielle sera capable dans cinq ou dix ans. Pour l’instant, il vaut mieux ignorer le battage médiatique et la panique, et juger rationnellement ChatGPT.
Comme toutes les technologies, ChatGPT n’est ni utile ni nuisible en soi. Malgré quelques défauts, c’est de loin le chatbot le plus performant jamais rendu public.
Mathieu est un passionné de technologie avec une curiosité insatiable pour tout ce qui est nouveau et innovant. Il a commencé à s'intéresser à l'informatique et à la technologie à un jeune âge, et cette passion ne s'est jamais estompée. Au contraire, elle a évolué pour englober tout ce qui est high-tech.
Avec une formation en ingénierie informatique et plusieurs années d'expérience dans le domaine de la technologie, Mathieu a acquis une connaissance approfondie des dernières tendances et innovations technologiques. Il a travaillé sur une variété de projets, allant du développement de logiciels à la conception de systèmes intégrés, ce qui lui a permis de comprendre les subtilités et les complexités du monde de la technologie.
Mathieu a créé son blog d'astuces high-tech pour partager ses connaissances et aider les autres à naviguer dans le monde parfois déroutant de la technologie. Que vous soyez un débutant cherchant à comprendre les bases ou un technophile chevronné à la recherche de nouvelles astuces et techniques, Mathieu est là pour vous aider.
Il est toujours à l'affût des dernières nouveautés et s'efforce de les expliquer de manière simple et accessible. Il croit fermement que la technologie est un outil puissant qui, lorsqu'il est bien utilisé, peut améliorer notre vie de manière significative. Avec son blog, Mathieu espère rendre la technologie plus accessible et plus facile à comprendre pour tous.
En dehors de son blog, Mathieu aime passer du temps à explorer de nouvelles technologies, à lire sur les dernières tendances et à travailler sur ses propres projets technologiques. Il est également un grand amateur de café et ne manque jamais une occasion de déguster une bonne tasse tout en se plongeant dans un nouveau gadget ou une nouvelle application.
