Faire rapidement au dépens de la qualité: Les gens réagissent au potentiel d’abus de ChatGPT, développant de nouveaux outils pour attraper les tricheurs et le matériel plagié. Un étudiant a développé un outil qui peut potentiellement (et rapidement) découvrir quand un texte a été créé par l’IA plutôt que par un écrivain humain.
ChatGPT peut écrire du code ou des essais scolaires et tout type de contenu en réponse à une invite humaine (textuelle). Le chatbot d’OpenAI est également facile à abuser, créant de nouveaux contenus pour tricher pendant les examens ou remplissant des sites Web entiers avec des déchets textuels sans valeur – mais superficiellement convaincants. Comme une réponse Pour cela, 22 ans, senior en informatique à l’université de Princeton, Edward Tian a créé un outil nommé GPTZero.
Tian a passé ses vacances d’hiver à développer une plate-forme capable de détecter si un humain ou l’algorithme ChatGPT a créé un essai donné. GPTZéro, qui est encore en version bêta, utilise deux indicateurs différents, « la perplexité » et « l’éclatement », pour identifier les extraits de texte créés par l’homme ou basés sur l’IA. Tian dit que nous « méritons de savoir » quand un texte a été créé par un cerveau conscient de soi ou par un algorithme informatique.
La perplexité mesure la complexité du texte, ou plutôt à quel point GPTZero est « perplexe » par le texte : un niveau de perplexité plus élevé suggère un niveau élevé de complexité du texte, ce qui signifie que l’extrait a probablement été écrit par un être humain. Lorsque la perplexité est faible, GPTZero a probablement trouvé des modèles de texte avec lesquels il est plus familier, ce qui signifie que le texte est plus probablement généré par l’IA.
voici une démo rapide avec le « cadre de référence » de john mcphee pic.twitter.com/WphxfxxFdr
– Edward Tian (@edward_the6) 3 janvier 2023
La rafale, quant à elle, mesure les variations des phrases. Les humains ont tendance à écrire avec une plus grande rafale, en utilisant des phrases plus longues ou complexes à côté de phrases plus courtes. Les phrases AI ont tendance à être plus uniformes, ce qui est une alerte rouge pour un texte probablement généré. GPTZero n’est ni parfait ni infaillible, admet Tian, mais le système peut en effet fournir un résultat rapide à un test de plagiat.
L’outil semble être au moins quelque peu efficace et assez intéressant pour de nombreux professionnels travaillant avec du texte : après sa mise en ligne le 2 janvier, GPTZero a attiré plus de 7 millions de visites et utilisé par plus de 30 000 personnes. Il était si populaire que le service s’est écrasé, poussant la plate-forme gratuite hébergeant actuellement le code à prendre en charge Tian avec plus de ressources serveur pour mieux gérer l’augmentation du trafic Internet.
Tian expliqué sur Twitter qu’il voulait faire quelque chose pour freiner le plagiat croissant basé sur l’IA, en apportant un peu de lumière et de transparence à la technologie de la boîte noire sur laquelle l’IA est basée. « Nous ne savons vraiment pas ce qui se passe à l’intérieur » des algorithmes ChatGPT, a déclaré Tian, et GPTZero est conçu pour lutter contre cette approche.
