WormGPT, FraudGPT : ces IA malveillantes vendues sur les forums cybercriminels

Depuis l’été 2023, un mot revient régulièrement dans les rapports des chercheurs en cybersécurité : les « dark LLMs », des modèles de langage détournés de tout garde-fou éthique. Le premier d’entre eux, WormGPT, a été révélé par la société SlashNext en juillet 2023. Depuis, une galaxie de clones — FraudGPT, EvilGPT, DarkGPT, KawaiiGPT et autres variantes — s’est développée sur les marchés noirs en ligne. Cet article décrit ce phénomène uniquement sous l’angle de la sensibilisation et de la menace : aucun lien, aucune instruction d’accès, aucun mode d’emploi. L’objectif est de comprendre la menace pour mieux s’en protéger.

Qu’est-ce qu’une IA débridée ? #

Les grands modèles de langage grand public (ChatGPT, Gemini, Claude…) intègrent des « garde-fous » : ils refusent d’écrire un logiciel espion, un mail d’arnaque ou un script de vol de mots de passe. Une IA débridée (ou « uncensored LLM ») est un système conçu, ou détourné, pour ignorer délibérément ces protections. Le résultat est une IA qui répond à n’importe quelle requête malveillante sans broncher.

Le tout premier, WormGPT, a été présenté le 28 juin 2023 sur un forum de hacking comme une « alternative sans limites » à ChatGPT. Selon SlashNext, il s’appuyait sur GPT-J, un modèle open source de 2021, entraîné en partie sur des données liées aux malwares. FraudGPT, apparu peu après, était commercialisé avec un éventail de fonctions encore plus large.

À lire Comment utiliser l’IA au quotidien : outils gratuits et usages concrets

Trois familles à distinguer

Comment elles sont utilisées (vue d’ensemble) #

Sans entrer dans aucun détail technique, les chercheurs en cybersécurité décrivent globalement trois usages dominants de ces outils. Le premier et le plus documenté reste la fraude par e-mail : WormGPT a d’abord été conçu pour produire des messages de « Business Email Compromise » (BEC), ces arnaques où un escroc se fait passer pour un dirigeant ou un fournisseur de confiance afin d’obtenir un virement.

L’apport de l’IA ici n’est pas magique : elle supprime les signaux d’alerte habituels. Là où un mail frauduleux trahissait souvent son origine par des fautes d’orthographe ou une tournure maladroite, ces outils génèrent un français — ou un anglais — irréprochable, même pour un escroc non francophone. Le second usage, mis en avant dans les publicités de FraudGPT, concerne l’aide à la création de code malveillant et de pages d’hameçonnage. Enfin, ces IA servent aussi de « tuteurs » abaissant la barrière à l’entrée pour des attaquants peu qualifiés.

Un marché à bas coût

L’élément qui inquiète le plus les défenseurs n’est pas la sophistication, mais le prix. Selon plusieurs sources (The Register, Cato Networks, SlashNext), les tarifs constatés tournent autour de quelques dizaines à une centaine de dollars par mois, avec des « accès à vie » bradés. À titre indicatif, le WormGPT original était proposé autour de 100 $ le mois en 2023 ; en 2025, des variantes ont été vues à partir de 50 $ par mois, et un dérivé « WormGPT 4 » aurait été affiché à 220 $ pour un accès illimité, code source inclus, d’après The Register.

Panorama des outils évoqués par les chercheurs

La riposte #

Face à cette menace, plusieurs lignes de défense se sont mises en place. La première vient des chercheurs en cybersécurité eux-mêmes. C’est SlashNext qui a sonné l’alarme en 2023 ; depuis, des équipes comme Cato Networks (Cato CTRL), Palo Alto Networks (Unit 42), Sophos ou Abnormal AI surveillent en continu les forums clandestins pour documenter ces outils et alimenter les systèmes de détection.

À lire Vos conversations avec l’IA sont-elles privées ? Ce que font ChatGPT, Gemini et Claude de vos données

Fait notable, le marché s’auto-régule aussi par la défiance. Sophos a relevé dès fin 2023 que de nombreux « GPT malveillants » vendus sur ces forums étaient en réalité des escroqueries visant d’autres criminels. Le créateur original de WormGPT, identifié en août 2023 par le journaliste Brian Krebs, a d’ailleurs fermé son service la même semaine en tentant de se distancier des usages qui en étaient faits.

Du côté des éditeurs d’IA, les fournisseurs de modèles renforcent en permanence leurs garde-fous et leurs filtres d’usage, et coupent les accès API détournés lorsqu’ils sont détectés. Enfin, les autorités — en France, l’ANSSI et son CERT-FR, ainsi que les services de police judiciaire spécialisés — alertent régulièrement sur la professionnalisation du phishing et accompagnent les victimes. La plateforme officielle cybermalveillance.gouv.fr centralise conseils et signalements pour les particuliers comme pour les entreprises.

Comment se protéger #

La bonne nouvelle : même générée par une IA, une attaque repose toujours sur les mêmes mécanismes de manipulation. Les réflexes de prudence restent donc valables, à condition de ne plus se fier au seul critère des « fautes d’orthographe ». Voici les habitudes recommandées par les organismes de cybersécurité.

Questions fréquentes #

Sources : CERT-FR, presse spécialisée cybersécurité. Article mis à jour régulièrement.