Les Boffins ont trouvé un rôle pour les chatbots IA où les hallucinations habituelles ne sont pas nécessairement un handicap.

Les têtes pensantes – basées à l’Université de Pennsylvanie et à l’Université du Maryland, dans le comté de Baltimore, aux États-Unis – ont fait appel aux grands modèles de langage (LLM) d’OpenAI pour les aider dans les jeux de rôle fantastiques, en particulier Donjons et Dragons (D&D).

Dans un papier préimprimé intitulé « CALYPSO : LLM en tant qu’assistants de maîtres de donjon », Andrew Zhu, doctorant à l’UPenn ; Lara Martin, professeure adjointe à l’UMBC ; Andrew Head, professeur adjoint à UPenn ; et Chris Callison-Burch, professeur agrégé à l’UPenn, expliquent comment ils ont utilisé les LLM pour améliorer un jeu qui dépend fortement de l’interaction humaine.

D&D est apparu pour la première fois en 1974 en tant que jeu de rôle (RPG) dans lequel les joueurs assumaient le rôle de héros médiévaux aventuriers et incarnaient ces personnalités dans le cadre d’un scénario dirigé par un maître de donjon (DM) ou un maître de jeu (GM). Les conditions préalables étaient un ensemble de règles – publiées à l’époque par Tactical Studies Rules – des dés polyédriques, un crayon, du papier, ainsi qu’un engagement commun en faveur d’une narration interactive et d’une théâtralité modeste. Les collations, techniquement facultatives, doivent être prises en compte.

Parallèlement à ces jeux de rôle sur table, la prolifération des ordinateurs personnels dans les années 1980 a conduit à diverses versions informatisées, tant en termes de jeu assisté par ordinateur que de simulations entièrement électroniques – comme le récent La porte de Baldur 3pour ne citer qu’un parmi des centaines de titres inspirés de D&D et d’autres RPG.

Les joueurs universitaires de l’UPenn et de l’UMBC ont cherché à voir comment les LLM pourraient soutenir les DM humains, qui sont chargés de planter le décor où se déroule l’aventure imaginée mutuellement, de lancer les dés qui déterminent les résultats de certaines actions, de faire respecter les règles ( qui sont devenus assez étendus), et de manière générale, pour garantir que l’expérience soit amusante et divertissante.

Pour ce faire, ils ont créé un ensemble de trois interfaces basées sur LLM, appelées CALYPSO – qui signifie Collaborative Assistant for Lore and Yielding Plot Synthesis Objectives. Il est conçu pour jouer à D&D en ligne via Discord, le service de chat populaire.

« Lorsqu’ils ont eu accès à CALYPSO, les DM ont signalé qu’il générait du texte haute fidélité adapté à une présentation directe aux joueurs, ainsi que des idées basse fidélité que le DM pouvait développer davantage tout en conservant son agence créative », explique le journal. « Nous considérons CALYPSO comme un exemple d’un paradigme d’outils améliorés par l’IA qui fournissent une assistance créative synchrone au sein des mondes de jeu établis et des jeux de table de manière plus large. »

La pandémie de COVID-19 a déplacé certains jeux de table en personne en ligne, observent les chercheurs dans leur article, et de nombreux joueurs qui jouent via Discord le font avec Avraé – un bot Discord conçu par Andrew Zhu, doctorant à l’UPenn et co-auteur de l’article CALYPSO.

« Les idées fondamentales de l’article (selon lesquelles les LLM sont capables d’agir en tant que co-DM de manière à inspirer le DM humain sans prendre le contrôle créatif du jeu) s’appliquent à D&D et à d’autres jeux de table, quelle que soit la modalité. Mais il y a il reste encore quelques défis à relever avant d’appliquer la technologie aux jeux en personne », a déclaré Zhu dans un e-mail à Le registre.

Zhu et ses collègues se sont concentrés sur les jeux Discord play-by-post (PBP) pour plusieurs raisons. Premièrement, « le PBP basé sur Discord est déjà basé sur du texte, nous n’avons donc pas à passer du temps à transcrire la parole en texte pour un LLM », a-t-il expliqué.

La configuration en ligne permet également au DM de visualiser les résultats générés par LLM en privé (où les « idées basse fidélité » importent moins) et libère le DM de devoir taper ou dicter dans une interface.

CALYPSO, un Bot Discord avec code source, est décrit dans l’article comme ayant trois interfaces : une pour générer le texte de configuration décrivant une rencontre (GPT-3) ; un pour un brainstorming ciblé, dans lequel le DM peut poser au LLM des questions sur une rencontre ou affiner un résumé de rencontre (ChatGPT) ; et un pour le chat en domaine ouvert, dans lequel les joueurs peuvent interagir directement avec ChatGPT agissant comme une créature fantastique connaissant bien D&D.

La configuration de ces interfaces impliquait d’ensemencer le LLM avec des invites spécifiques (détaillées dans le document) qui expliquent comment le chatbot doit répondre dans chaque rôle d’interface. Aucune formation spécifique sur le modèle n’était requise pour intégrer le fonctionnement de D&D.

« Nous avons constaté que même sans formation, la série de modèles GPT en sait beaucoup sur D&D après avoir consulté des livres sources et des discussions sur Internet dans ses données de formation », a déclaré Zhu.

Nous avons constaté que même sans formation, la série de modèles GPT en sait beaucoup sur D&D après avoir consulté des livres sources et des discussions sur Internet.

Zhu et ses collègues ont testé CALYPSO auprès de 71 joueurs et DM, puis les ont interrogés sur leur expérience. Ils ont trouvé l’assistant IA utile le plus souvent.

Mais il y avait place à amélioration. Par exemple, lors d’une rencontre, CALYPSO a simplement paraphrasé les informations contenues dans l’invite de configuration et de statistiques, ce qui, selon les DM, n’ajoutait aucune valeur.

Le registre a demandé à Zhu si la tendance des LLM à « halluciner » – à inventer des choses – était un problème pour les participants à l’étude.

« Dans un contexte créatif, cela devient un peu moins significatif – par exemple, les livres de référence D&D ne contiennent pas tous les détails sur chaque monstre, donc si un LLM affirme qu’un certain monstre a une certaine couleur de fourrure, cela compte-t-il comme une hallucination. ? » dit Zhu.

« Pour répondre directement à la question, oui ; le modèle « invente » souvent des faits sur les monstres qui ne figurent pas dans les livres sources. La plupart d’entre eux sont des choses insignifiantes qui aident réellement le MD, comme le son de l’appel d’un monstre ou la forme de son corps. l’iris d’un monstre ou des choses comme ça. Parfois, moins souvent, il hallucine des faits plus drastiques, comme dire que les salamandres de glace ont des ailes (elles n’en ont pas).

Un autre problème qui est apparu était que les garanties de formation des modèles interféraient parfois avec la capacité de CALYPSO à discuter de problèmes qui seraient appropriés dans un jeu de D&D – comme la race et le gameplay.

« Par exemple, le modèle refuserait parfois de suggérer des courses (fantastiques), probablement en raison des efforts visant à réduire le potentiel de préjugés raciaux dans le monde réel », observe le journal. « Dans un autre cas, le modèle insiste sur le fait qu’il est incapable de jouer à D&D, probablement en raison des efforts visant à l’empêcher de revendiquer des capacités qu’il ne possède pas. »

(Oui, nous sommes sûrs que certains d’entre nous y sont déjà allés, niant toute connaissance des jeux de rôle malgré des années de jeu.)

Zhu a déclaré qu’il était clair que les gens ne voulaient pas d’un DM IA, mais qu’ils étaient plus disposés à permettre aux DM de s’appuyer sur l’aide de l’IA.

« Au cours de nos études formatives, un thème commun était que les gens ne voulaient pas d’un DM IA autonome, pour plusieurs raisons », a-t-il expliqué. « Premièrement, de nombreux joueurs que nous avons interviewés avaient déjà joué avec des outils comme AI Dungeon et étaient familiers avec les faiblesses de l’IA dans la narration à long contexte. Deuxièmement, et plus important encore, ils ont exprimé qu’avoir un DM IA autonome enlèverait à l’esprit du jeu ; puisque D&D est dans l’âme un jeu de narration créatif, demander à une IA de générer cette histoire serait une erreur.

« Le fait que CALYPSO soit une chose facultative que les DM pouvaient choisir d’utiliser autant ou aussi peu qu’ils le souhaitaient a aidé à garder la balle créative dans le camp du DM humain ; souvent, ce qui se passait, c’est que CALYPSO donnait au DM juste assez de coup de pouce pour rompre. sortez-les d’une ornière de blocage de l’écrivain ou donnez-leur simplement une liste d’idées sur lesquelles s’appuyer. Une fois que le DM humain a senti qu’il voulait plus de contrôle sur la scène, il pouvait simplement continuer à DM dans son propre style sans utiliser du tout CALYPSO.  » ®