Twitter cherche à savoir pourquoi sa fonction d’aperçu des photos semble favoriser les visages principalement blancs – ou plus clairs – par rapport aux visages noirs ou plus foncés.
Le problème a été mis en évidence par un utilisateur qui a découvert pour la première fois que la fonction de reconnaissance faciale de Zoom ne reconnaissait pas le visage de ses collègues noirs. Après avoir publié sur Twitter, il s’est rendu compte que la plate-forme avait le même problème.
Un membre du corps professoral a demandé comment empêcher Zoom de retirer sa tête lorsqu’il utilise un arrière-plan virtuel. Nous avons suggéré le fond ordinaire ordinaire, un bon éclairage, etc., mais cela n’a pas fonctionné. J’étais en réunion avec lui aujourd’hui quand j’ai réalisé pourquoi cela se passait.
– Colin Madland (@colinmadland) 19 septembre 2020
Suite à cela, les utilisateurs ont commencé à mener des expériences non scientifiques, en tweetant des photos incluant à la fois des Noirs et des Blancs dans des positions différentes pour voir quel visage l’algorithme favoriserait.
Certaines de ces expériences ont montré que le réseau neuronal utilisé par Twitter à cette fin favorisait fréquemment les visages blancs, même lorsqu’une image comprenait deux ou trois de la même personne noire et une personne blanche.
hmm pic.twitter.com/aXw79dk01Q
– rat_champ (@rat_champ) 20 septembre 2020
D’autres ont montré que la couleur de fond et la tenue (comme la couleur de la cravate) ne faisaient aucune différence en les échangeant.
Je me demande comment se fait-il que vous ayez dit cela sans le tester? pic.twitter.com/rro1vn8Mh8
– Graham Christensen (@grhmc) 19 septembre 2020
Une expérience a montré que le même problème était apparent même avec des images de dessins animés.
Je me demande si Twitter fait aussi cela aux personnages de fiction.
Lenny Carl pic.twitter.com/fmJMWkkYEf
– Jordan Simonovski (@_jsimonovski) 20 septembre 2020
Quelques responsables de Twitter ont répondu aux expériences non officielles. Liz Kelley, qui fait partie de l’équipe de communication de Twitter, a tweeté dimanche pour remercier tous ceux qui ont soulevé le problème et déclaré que, bien que les tests initiaux aient révélé que le réseau de neurones ne contenait pas de biais, il y avait clairement plus d’analyses à faire.
merci à tous ceux qui ont soulevé cette question. nous avons testé les préjugés avant d’envoyer le modèle et n’avons pas trouvé de preuves de préjugés raciaux ou sexistes dans nos tests, mais il est clair que nous avons plus d’analyses à faire. nous ouvrirons notre travail en source ouverte afin que d’autres puissent l’examiner et le reproduire. https://t.co/E6sZV3xboH
– liz kelley (@lizkelley) 20 septembre 2020
Parag Agrawal, l’opérateur technique Cheif de Twitter, a également tweeté disant que leur modèle avait besoin d’une «amélioration continue».
C’est une question très importante. Pour y remédier, nous avons analysé notre modèle lors de son expédition, mais nous avons besoin d’une amélioration continue.
J’adore ce test public, ouvert et rigoureux – et je suis impatient d’en tirer des leçons. https://t.co/E8Y71qSLXa
– Parag Agrawal (@paraga) 20 septembre 2020
Le réseau neuronal que Twitter utilise pour sa fonction de reconnaissance faciale pour le recadrage automatique a longtemps été un mystère. L’outil de recadrage automatique de Twitter est conçu pour montrer caractéristique la plus «saillante» de l’image – ou ils séparent vos yeux sont les plus attirés. Mais il est difficile de savoir ce que cela signifie exactement.
Et le fait est que les algorithmes à préjugés racistes ne sont pas nouveaux (malheureusement). Une article de Filaire l’année dernière a montré que «même les systèmes de reconnaissance faciale les plus performants identifient à tort Black [people] à des taux cinq à 10 fois plus élevés que les blancs [people]. » La technologie n’existe pas dans le vide et, comme Alyse Stanley, écrire pour Gizmodo, dit-il: un algorithme n’a pas besoin d’être intentionnellement raciste pour être réellement raciste.
La prochaine étape sera pour Twitter de réévaluer vigoureusement sa fonctionnalité de recadrage automatique, puis de continuer à le faire périodiquement pour s’assurer que ses systèmes sont aussi partiels que possible.
