Paume faciale : Les IA génératives comme ChatGPT promettent de nous faciliter la vie en effectuant des tâches banales. Mais il y a certaines choses qu’il vaut mieux laisser aux humains, comme écrire une lettre sur la construction d’une communauté plus forte et plus inclusive à la suite d’une fusillade de masse. On pourrait imaginer que le personnel de l’Université Vanderbilt dans le Tennessee s’en rendrait compte, et ils n’incluraient certainement pas de note à la fin du message confirmant que ChatGPT l’a écrit. Mais nous y sommes.
Comme le rapporte Le Vanderbilt Hustlerle personnel du Peabody College de l’Université Vanderbilt (Bureau de l’équité, de la diversité et de l’inclusion) a envoyé l’e-mail à la suite de la fusillade à l’Université d’État du Michigan au cours de laquelle trois étudiants ont été tués et cinq autres blessés.
Le courriel mentionnait le fait de prendre soin les uns des autres et de promouvoir une culture d’inclusivité sur le campus, quelque chose qui exige respect et compréhension, pour honorer les victimes de la tragédie. « Nous devons continuer à engager des conversations sur la façon dont nous pouvons faire mieux, apprendre de nos erreurs et travailler ensemble pour construire une communauté plus forte et plus inclusive », lit-on.
La lettre se terminait par une note indiquant : « Paraphrasez le modèle de langage ChatGPT AI d’OpenAI ». Naturellement, cela n’a pas plu aux lecteurs, qui ont trouvé que l’utilisation de l’IA pour un sujet aussi tragique était insensible, impersonnelle et manquait d’empathie.
Les étudiants ont fustigé la lettre, la qualifiant de « dégoûtante » et d' »ironie malsaine et tordue » selon laquelle un message sur l’unité a été écrit par un programme informatique et non par la personne qui l’envoie.
La doyenne associée pour l’équité, la diversité et l’inclusion Nicole Joseph, l’un des noms sur la lettre, s’est excusée pour le message dans un e-mail de suivi, qualifiant l’utilisation de ChatGPT de « mauvais jugement ».
« Bien que nous croyions au message d’inclusivité exprimé dans l’e-mail, utiliser ChatGPT pour générer des communications au nom de notre communauté dans un moment de tristesse et en réponse à une tragédie contredit les valeurs qui caractérisent le Peabody College », a écrit Joseph. « Comme pour toutes les nouvelles technologies qui affectent l’enseignement supérieur, ce moment nous donne à tous l’occasion de réfléchir à ce que nous savons et à ce que nous devons encore apprendre sur l’IA. »
Il y a quelques indications que l’e-mail a été écrit par une IA, y compris l’utilisation du pluriel « fusillade » lorsqu’il y a eu un incident. Il ne contient également qu’une seule utilisation d’un terme spécifique à Vanderbilt.
« Je suis également profondément troublée qu’une communication de mon administration ait autant manqué le besoin crucial de connexion personnelle et d’empathie pendant une période de tragédie », a écrit Camilla Benbow, doyenne de l’éducation au Peabody College.
La popularité de ChatGPT a explosé au cours des derniers mois d’une manière que nous avons rarement vue avec d’autres technologies. Mais pour tous les points positifs qui découlent de ces IA d’apprentissage automatique, il y a un nombre égal de points négatifs. Sa capacité à créer des histoires courtes cause d’énormes problèmes au sein de l’industrie de l’édition, et Sam Altman, le PDG du fabricant de ChatGPT OpenAI, a averti que le monde n’était peut-être pas loin d’une intelligence artificielle « potentiellement effrayante ».
