Open AI vient de dévoiler un outil gratuit pour détecter du texte généré par une IA telle que ChatGPT!

OpenAI lance un outil de détection de texte généré par l’IA

C’est désormais officiel! OpenAI déploie un outil gratuit nommé AI Text Classifier qui permet de vérifier si un texte a été généré par une intelligence artificielle ou un humain. Pour tester le texte, il vous suffit de copier-coller son texte dans cet outil, ensuite AI Texte Classifier déterminera le degré de probabilité que ce texte soit généré par une IA. Les degrés de probabilité :

• Très improbable (very unlikely)
• Improbable (unlikely)
• Incertain (unclear if it is)
• Possible (possibly)
• Probable (likely AI-generated)

Depuis son lancement en décembre dernier, le générateur de texte ChatGPT étonne par ses performances mais inquiète énormément également. Dans le domaine universitaire, on se pose constamment la question suivante : « Comment savoir si une dissertation d’un élève n’a pas été réalisée par ChatGPT ? ». L’outil est encore perfectible et devra être amélioré pour offrir une détection encore plus précise.

Les résultats peuvent aider à déterminer si un document a été généré par l’IA, mais ne doivent pas être la seule preuve. Le modèle est entraîné sur des textes écrits par des humains à partir d’une variété de sources, qui ne sont pas nécessairement représentatives de tous les types de textes écrits par des humains, précise OpenAI.

Pour rappel, Open AI est la société américaine qui a conçu DALL-E (le générateur d’images par intelligence artificielle).

L’outil est encore soumis à certaines limites

Découvrez ses limites :

• Vous devez copier-coller un minimum de 1000 caractères, soit environ 150 à 250 mots
• Il peut encore se tromper entre un texte généré par l’IA ou un humain
• L’outil est susceptible de se tromper sur des textes écrits par des enfants et des textes qui ne sont pas anglais
• Les textes générés par l’IA peut être facilement modifiés pour échapper à la détection de l’outil

@bdm