Va-t-on vers le développement d’outils de détection de contenu générés par les intelligences artificielles ?
En tout cas, les jours qui s’écoulent depuis le lancement de CHATPGT font couler énormément d’encre dans tous les domaines. La crainte légitime, de voir certains métiers disparaître ou la généralisation de la triche dans le domaine de l’éducation posent vraiment les jalons d’une nouvelle génération d’outils capables de détecter les textes générés suite à des requêtes sur ChatGPT ou autre Robot. C’est ce que Edward Tian, étudiant en informatique, a développé durant les fêtes de fin d’année avec GPTZERO
À lire aussi : ChatGPt va-t-il favoriser la triche ?
Sommaire
TogglePourquoi GPTZERO ?
Le ChatGPT d’OpenAI, un chatbot IA capable de générer des textes précis et détaillés en langage naturel à partir d’une simple demande, suscite l’enthousiasme dans les milieux de l’écriture et de l’enseignement. Il est si efficace qu’il est parfois impossible de distinguer ses créations de celles d’un être humain, ce qui pose un problème majeur. Les étudiants en particulier le considèrent comme un économiseur de temps précieux et la possibilité d’obtenir une bonne note sans trop d’effort. Un problème parmi tant d’autres, qui pousse ses développeurs à trouver un moyen d’insérer une signature dans le texte pour différencier ceux produits par l’IA de ceux d’un être humain.
Alors que certains célèbrent le Nouvel An, Edward Tian, étudiant en informatique et journalisme à l’Université de Princeton aux États-Unis, a passé cette soirée à développer une application dont l’algorithme peut identifier si un texte a été produit par le chatbot ou écrit par un être humain. Appelé GPTZero, il analyse le texte pour évaluer sa complexité, le mode aléatoire par rapport à un modèle de texte et son uniformité. Ensemble, ces éléments permettent – en théorie – de déterminer si le contenu a été créé par une IA ou par un être humain.
here’s a quick demo with john mcphee’s « frame of reference » pic.twitter.com/WphxfxxFdr
— Edward Tian (@edward_the6) January 3, 2023
GPTZero : un outil pratique, mais qui devra s’améliorer pour être vraiment efficace.
GPTZero est disponible gratuitement après inscription sur gptzero.me qui fonctionne rarement ou plus accessible via streamlit.app
Attention, l’outil est en développement (toujours en version bêta), il plante souvent et il vous faudra faire preuve de patience. Il faut attendre quelques minutes entre chaque étape pour que la page se charge.
Ne soyez pas pressé ! Le site est en anglais, mais si GPTZero est parfaitement capable d’analyser un texte en français, j’ai des doutes quant à sa capacité à analyser la finesse de notre langue. J’ai effectué des tests et les résultats ne sont pas flagrants.
Comment utiliser GPTZERO
Pour l’utiliser, il suffit de copier/coller le texte dans le champ correspondant et de presser Ctrl + Entrée pour que l’outil l’analyse. Vous devez ensuite attendre quelques minutes pour que tous les résultats apparaissent et, à la fin, cliquer sur « Get GPTZero Result« .
GTPZERO efficace ?
Pour déterminer si le texte a été écrit par une intelligence artificielle ou un être humain, GPTZero mesure sa Perplexité, qui renvoie à la « randomisation » du texte ». C’est « une mesure de la compétence d’un modèle de langage tel que ChatGPT à prédire un échantillon de texte. Pour faire simple, plus la perplexité (comprendre complexité ou richesse) d’un texte est élevée, plus il est probable qu’il ait été écrit par un être humain.
D’après les tests qu’Edward Tian démontre sur son compte Twitter, cela semble fonctionner. Par contre sur des textes copier/coller de ChatGPT directement en français, l’outil n’y voit que du feu.
En attendant que les textes générés soient expressément signés ou « watermarkés », ce type d’outil comme GPTZero semble laissé un peu d’espoir quant à la détection des tricheurs un peu fainéants. Pour le moment, si la grande majorité des copywriters s’accordent à dire que ChatGPT ne sera qu’un support, il est fort à parier que les intelligences vont encore apprendre et évoluées pour contourner ses contraintes de détection. La qualité d’un texte sera peut-être fonction du prix qu’on y mettra ?
J’ai vraiment hâte de voir ce que BING va proposer avec l’intégration de ChatGPT prévue pour mars. Va-t-on assister à la fin du monopole de Google ?
Et vous, avez-vous lancé quelques tests ? Que pensez-vous de cette révolution ?
Depuis, je vous ai préparé un nouvel article sur les outils qui permettent de détecter ChatGPT
À lire aussi : ChatGPt va-t-il favoriser la triche ?
Comment intégrer les intelligences artificielles dans vos contenus
Un merci tout spécial à Mykola Holyoutyak qui m’a autorisé à exploiter son robot (en illustration) : son profil sur BEHANCE
Articles à lire traitant de l'intelligence artificielle
Formateur et Consultant en stratégie Web.
Vous souhaitez développer une stratégie de communication ? Obtenir plus de résultats avec votre site Internet ou comprendre les mécanismes des réseaux sociaux ? Vous êtes sur le bon site.
DeepDive vous formera dans ces domaines grâce aux expériences acquises et notre veille permanente sur le sujet, que vous soyez une TPE, PME ou une collectivité.
Grâce à l’Agence de communication Clic-en-berry depuis 2011, nous vous aidons à réaliser des projets Web efficaces et pérennes.
J’interviens aussi sur les risques liés aux usages des réseaux sociaux en complément de formation pour adultes en reconversion ou pour les étudiants arrivant sur le marché du travail.
Intervenant dans des écoles de communication, de gestion, les CCI et le CNAM, je peux répondre à vos demandes sur tous les sujets liés au Web en général.