Suite au tollé des joueurs, Epic Games supprime les images racistes générées par l'IA et téléchargées par les utilisateurs sur le populaire jeu Battle Royale Fortnite, selon un rapport. rapport par Kotaku.

L'une des fonctionnalités qui ont fait de Fortnite le jeu en ligne à succès qu'il est aujourd'hui est la possibilité pour les utilisateurs de créer leurs propres cartes et de partager des expériences jouables avec le monde. Ce débouché pour la créativité signifie cependant que les utilisateurs peuvent potentiellement télécharger du contenu problématique, ce qui s'est produit ici.

Récemment, les utilisateurs ont commencé à remarquer des cartes d’îles comportant des images grossières générées par l’IA qui perpétuent des stéréotypes racistes. Comme Kotaku Selon des rapports, des exemples de cartes incluent celles portant des noms tels que « Guerres de zones arabes », « Guerres de zones nigérianes » et « Guerres de zones chinoises ».

Les cartes présentaient des images racistes et apparemment générées par l’IA qui perpétuent les stéréotypes, notamment des hommes du Moyen-Orient tenant des bombes et des hommes noirs mangeant du poulet frit. Alors que la plupart de ces cartes avaient de petites populations de serveurs, une carte, « Jamaica Zonewars », comptait plus de 35 000 joueurs actifs au début du mois.

Image : Illustration d'une île interdite de l'utilisateur « flaming » dans Fortnite Creative.

« De nombreuses îles référencées ont déjà été supprimées et les créateurs ont agi », a déclaré Epic Games. Kotaku dans un rapport. « Nous avons déjà traité plus de 100 îles avec des violations de contenu utilisant ce format de vignette similaire et nous continuerons de le faire. »

Epic Games a ajouté que le contenu discriminatoire n'a pas sa place dans Fortnite et viole les règles de création d'îles de l'entreprise, ajoutant que les utilisateurs qui enfreignent ces directives pourraient voir leur compte définitivement banni.

« Notre équipe de modération humaine examine tout le contenu avant sa publication, et nous mettons activement à jour nos règles de création d'îles et nos programmes de formation à la modération pour minimiser le nombre de cartes en violation qui atteignent les joueurs », a déclaré Epic Games. « Nous encourageons les joueurs à signaler toute île qu'ils voient qui pourrait enfreindre nos règles. »

Dans une déclaration fournie à Décrypter's GG, Epic Games a déclaré que toutes les îles créées par les utilisateurs sont examinées par les modérateurs avant la publication, mais a déclaré que l'équipe y apportait une touche légère.

Image : Illustration d'une île interdite de l'utilisateur « drzen » dans Fortnite Creative.

« Nous demandons à notre équipe de modération d'assumer les bonnes intentions du créateur s'il n'est pas sûr d'une violation du contenu afin de ne pas trop censurer », a déclaré Epic Games. « Parfois, cela signifie que des choses qui ne devraient pas être publiées sont publiées, et nous travaillons rapidement pour supprimer tout contenu offensant et rédiger de nouveaux supports de formation pour nos modérateurs. Les créateurs qui enfreignent nos règles en matière de créateurs font face à diverses mesures coercitives, y compris des interdictions permanentes de publication et de monétisation.

L'éditeur a ajouté qu'il travaillait sur la mise à jour de ses « règles de création d'îles et programmes de formation de modération ».

S'associant à l'engouement pour l'IA générative, l'Epic Games Store a commencé à autoriser les jeux et les soumissions comportant des œuvres d'art et d'autres éléments de l'IA en septembre. Cela s'est produit après que le marché rival des jeux sur PC, Steam, ait initialement pris position contre le contenu de l'IA, mais il a depuis, il a assoupli ses règles au milieu d’une augmentation de ces soumissions.

« Nous n'interdisons pas les jeux utilisant de nouvelles technologies », Tim Sweeney, fondateur et PDG d'Epic Games a écrit sur Twitter à l'époque, notant qu'Epic Games avait ouvert l'auto-édition complète plus tôt cette année-là.

Alors que les développeurs d’IA ont investi massivement dans la suppression des images offensantes de leurs modèles, les utilisateurs ont trouvé des moyens de « jailbreaker » les modèles à l’aide d’invites spécialisées. En octobre, des images générées par l'IA de Bob l'éponge ou des avions de ligne Kirby de Nintendo volant dans le World Trade Center sont devenues virales.

Edité par Andrew Hayward