Dix centimes Dimension différente moi a connu une popularité croissante au cours de la semaine dernière en tant qu’outil permettant de générer de nouvelles images de profil. Cependant, ce robot IA apparemment innocent a un côté sombre – Préjugé racial. Les utilisateurs à la peau foncée du bot ont découvert qu’il change non seulement leur teint en un teint plus clair, mais aussi, dans certains cas, remplace les personnes de couleur par des animaux.

L’application a été découverte pour la première fois vers la fin du mois de novembre par des utilisateurs de Twitter en Amérique du Sud, qui ont découvert que l’application pouvait transformer n’importe quelle photo en une œuvre d’art de style anime. La nouvelle de l’application s’est répandue comme une traînée de poudre sur la plateforme de microblogging, à tel point que Tencent a été contraint de la fermer pour la préparer à l’afflux d’utilisateurs. Même aujourd’hui, essayer d’utiliser le service entraîne un message d’erreur indiquant que le « service est en cours de mise à niveau ».

L’application est construite sur Diffusion stableun modèle d’IA formé sur diverses formes de art, y compris les animés. Different Dimension Me prend n’importe quelle image téléchargée et en crée une version bidimensionnelle, remplaçant diverses parties des vêtements, de l’arrière-plan et de la structure faciale du sujet dans un style artistique inspiré de l’anime.

Les utilisateurs se sont tournés vers la plate-forme pour transformer leurs mèmes préférés en versions animées. Twitter a été inondé d’internautes utilisant ce service pour générer des mèmes hilarants.

Certains ont même pris des piliers de la culture pop comme la Statue de la Liberté et Kanye West et l’ont exécuté via l’application, avec des résultats amusants.

Cependant, en raison de la nature de l’ensemble de données sur lequel l’algorithme est formé, il suradapte fréquemment les traits du visage, les couleurs de peau et les accessoires de style anime à l’image soumise. Il en résulte que les personnes de couleur sont mal représentées dans les générations créées par l’application.

Un exemple de ceci est une photo téléchargée par l’utilisateur de Twitter Maddy, qui a donné à l’IA une image du Jackson 5. Le bot les a toutes transformées en femmes animées, a changé leur couleur de peau et a remplacé leurs afros par des chapeaux.

Dans d’autres images, les utilisateurs ont constaté que les personnes de couleur se transformaient également en animaux. Cette erreur est couramment commise par de nombreux algorithmes de reconnaissance faciale, comme on le voit avec Google Photos. fiascoqui qualifiaient à tort les personnes de couleur de « gorilles ».

Certains internautes ont soulevé des problèmes de confidentialité, principalement en raison du fait que le site Web Different Dimension Me est hébergé sur QQ World, un portail Web détenu et exploité par Tencent. Tencent est en partie financé par le Chinois gouvernement, et a une histoire de partage Les données avec les autorités.

L’application n’est pas disponible en Inde car le gouvernement indien bloque l’accès à tous les sites Web et applications chinois à l’échelle nationale. Bien qu’il soit possible de contourner ce blocage à l’aide d’un VPN, les problèmes de confidentialité et la nature biaisée de l’algorithme sont d’autant plus raison de transmettre cette tendance de l’IA.