OpenAI développe un outil de détection pour contrer le texte généré par le ChatGPT

ChatGPT fait fureur, mais il n’est pas populaire auprès de tout le monde, en particulier de ceux qui ont besoin de voir quand il est utilisé.


Le chatbot automatisé alimenté par l’IA d’OpenAI, ChatGPT, a pris d’assaut Internet, mais non sans créer quelques problèmes en cours de route. Avec des écrivains, des codeurs, des spécialistes du marketing et apparemment tout le monde entre eux utilisant ChatGPT pour générer du contenu, les entreprises du monde entier sont confrontées à un tsunami de contenu généré par l’IA.


Avec des problèmes de plagiat et de contenu volé tournant constamment autour de ChatGPT et de sa sortie, OpenAI a maintenant publié un nouveau classificateur GPT, un outil conçu pour détecter et révéler si le texte que vous lisez est l’œuvre de ChatGPT ou l’un de ses autres lavages GPT outils.


OpenAI introduit le classificateur GPT pour aider à vérifier le texte écrit par l’IA

L’annonce d’OpenAI venir comme recherche sur l’écriture par l’IA et le texte généré par l’IA augmentent et les entreprises intègrent la sortie ChatGPT.

Le nouveau classificateur GPT tente de déterminer si un texte donné est écrit par un humain ou le travail d’un générateur d’IA. Alors que ChatGPT et d’autres modèles GPT sont largement formés sur toutes les formes de saisie de texte, l’outil de classification GPT est “ajusté à un ensemble de données de paires de texte écrit par l’homme et de texte écrit par l’IA sur le même sujet”.

Ainsi, au lieu de collecter des informations et de recréer sa meilleure approche, le classificateur GPT essaie de comparer les similitudes entre le texte humain connu et le texte IA connu pour trouver des différences qui révèlent l’auteur source.

La détection du classificateur GPT est actuellement limitée

Alors que l’idée de détecter facilement le texte généré par l’IA sera de la musique aux oreilles des éditeurs et des éducateurs, OpenAI a averti que son “classificateur n’est pas entièrement fiable”.

Actuellement, le classificateur GPT identifie correctement “26 % du texte écrit par l’IA”, tandis que 9 % du texte humain est étiqueté comme écrit par l’IA. OpenAI note également que la précision de l’outil “s’améliore généralement à mesure que la longueur du texte saisi augmente”.

outil de classification gpt qui teste le texte écrit par l'homme

Un test rapide du classificateur GPT a repéré un exemple généré par l’homme et l’a étiqueté “très peu susceptible d’être généré par l’IA”, et a également indiqué correctement qu’un extrait généré par ChatGPT sur les problèmes USB était “peut-être généré par l’IA”.

test de l'outil de classificateur gpt ai texte écrit

La demande de suivi ChatGPT est élevée

Même avec les limites du classificateur GPT, la demande d’une détection fiable de ChatGPT est susceptible d’attirer de nombreuses personnes vers cet outil. L’engagement d’OpenAI à créer et à publier un outil de suivi GPT gratuit est important car, à mesure que de plus en plus d’étudiants, d’écrivains, de programmeurs et d’autres utilisent des outils de génération de texte IA, la compréhension et le suivi de cette entrée deviendront essentiels.

Pour l’instant, bien que GPT Classifier soit opérationnel et disponible pour les tests, il est préférable de prendre son étiquetage avec une pincée de sel.

Mathieu
Lire aussi :  Découvrez les 10 meilleurs jeux vidéo à venir en 2022

Laisser un commentaire

Publicité :