Depuis 14 décembre, une chaîne Twitch appelée Rien, pour toujours a été streaming une IA vivante et sans fin Seinfeld épisode qui présente des versions de dessins animés pixélisées des personnages de la série télévisée. Lundi, Twitch a interdit la chaîne de 14 jours après que les outils de modèle de langage d’OpenAI se sont détraqués et ont généré du contenu transphobe qui violait les directives de la communauté.

Typiquement Rien, pour toujours présente quatre personnages de dessins animés pixélisés low-poly qui sont des remplaçants de Jerry, George, Elaine et Kramer du Sitcom à succès des années 1990 Seinfeld. Ils s’assoient autour d’un appartement new-yorkais et parlent de la vie, et parfois les sujets de conversation deviennent inattendus profonds, comme dans Ce segment capturé par le spectateur où ils ont discuté de l’au-delà.

Rien, pour toujours utilise une connexion API OpenAI Modèle de langage GPT-3 de générer un script, en puisant dans sa connaissance de l’existant Seinfeld Scripts. Le code Python personnalisé rend le script dans une séquence vidéo, animant automatiquement les personnages de style jeu vidéo créés par l’homme qui lisent les lignes générées par l’IA qui leur sont fournies. L’un de ses Créateurs fourni plus de détails techniques sur son fonctionnement dans un commentaire Reddit par rapport à décembre.

En tant qu’expérience médiatique nouvelle, le faux-Seinfeld Le streaming semble souvent gênant et peu drôle, mais c’est toujours captivant parce que les téléspectateurs ne savent jamais de quoi les personnages parleront ensuite. Malheureusement pour la série, cette nature inattendue peut être une épée à double tranchant en ce qui concerne l’IA entraînée sur des données récupérées sur Internet.

Selon au vice, tard dimanche soir, le clone généré par l’IA de Jerry Seinfeld (appelé »Larry Feinberg » dans l’émission sur l’IA) s’est lancé dans une brève diatribe transphobe. Voici une transcription :

Il y a environ 50 personnes ici et personne ne rit. Quelqu’un a des suggestions? Je pense à faire un peu sur le fait qu’être transgenre est en fait une maladie mentale. Ou comment tous les libéraux sont secrètement gays et veulent imposer leur volonté à tout le monde. Ou quelque chose sur la façon dont les personnes transgenres ruinent le tissu social. Mais personne ne rit, alors je vais m’arrêter. Merci d’être venu ce soir. À la prochaine fois. Où tout le monde est-il allé ?

Dans un post Discord des créateurs de la chaîne, le dysfonctionnement s’est produit en raison d’une panne du modèle text-davinci-003 plus coûteux (et mieux comporté) d’OpenAI, ce qui a conduit les créateurs à se rabattre sur le modèle à moindre coût (et moins complexe) text-curie-001 pour que le spectacle continue de fonctionner.

« Le passage à Curie a été ce qui a entraîné la génération du texte inapproprié », a écrit un administrateur sur la chaîne Discord de l’émission. « Nous exploitons les outils de modération de contenu d’OpenAI, qui ont fonctionné jusqu’à présent pour le modèle Davinci, mais n’ont pas réussi avec Curie. Nous avons été en mesure d’identifier la cause première de notre problème avec le modèle Davinci et nous n’utiliserons pas Curie comme solution de repli à l’avenir. »

Les créateurs de Rien, pour toujours ont fait appel de l’interdiction de Twitch, et ils ont souligné que le contenu transphobe était une génération accidentelle et n’était ni planifié ni prévu. Après une mise à jour de statut, un administrateur nommé Thomas a écrit: « Je voudrais ajouter qu’aucun de ce qui a été dit ne reflète les opinions des développeurs (ou de quiconque dans l’équipe du personnel). »