AlphabetGoogle a déclaré à Reuters cette semaine qu’il développait une alternative à la méthode standard de l’industrie pour classer les tons de peau, qui, selon un nombre croissant de chercheurs en technologie et de dermatologues, est inadéquate pour évaluer si les produits sont biaisés contre les personnes de couleur.

Le problème est une échelle à six couleurs connue sous le nom de Fitzpatrick Skin Type (FST), que les dermatologues utilisent depuis les années 1970. Les entreprises technologiques s’y fient désormais pour catégoriser les personnes et mesurer si des produits tels que les systèmes de reconnaissance faciale ou les capteurs de fréquence cardiaque des montres intelligentes fonctionnent aussi bien sur tous les tons de peau.

Les critiques disent que FST, qui comprend quatre catégories pour la peau « blanche » et une pour « noire » et « marron », ne tient pas compte de la diversité parmi les personnes de couleur. Des chercheurs du département américain de la Sécurité intérieure, au cours de une conférence fédérale sur les normes technologiques en octobre dernier, a recommandé d’abandonner la FST pour évaluer la reconnaissance faciale, car elle représente mal la gamme de couleurs dans diverses populations.

En réponse aux questions de Reuters sur FST, Google, pour la première fois et avant ses pairs, a déclaré qu’il poursuivait discrètement de meilleures mesures.

« Nous travaillons sur des mesures alternatives, plus inclusives, qui pourraient être utiles dans le développement de nos produits, et collaborerons avec des experts scientifiques et médicaux, ainsi qu’avec des groupes travaillant avec les communautés de couleur », a déclaré la société, refusant de fournir des détails. sur l’effort.

La controverse fait partie d’un calcul plus large sur le racisme et la diversité dans l’industrie technologique, où la main-d’œuvre est plus blanche que dans des secteurs comme la finance. Veiller à ce que la technologie fonctionne bien pour toutes les couleurs de peau, ainsi que pour les différents âges et sexes, prend de plus en plus d’importance à mesure que les nouveaux produits, souvent alimentés par l’intelligence artificielle (IA), s’étendent à des domaines sensibles et réglementés tels que les soins de santé et les forces de l’ordre.

Les entreprises savent que leurs produits peuvent être défectueux pour les groupes sous-représentés dans les données de recherche et de test. L’inquiétude concernant FST est que son échelle limitée pour les peaux plus foncées pourrait conduire à une technologie qui, par exemple, fonctionne pour la peau brun doré mais échoue pour les tons rouges expresso. De nombreux types de produits offrent des palettes bien plus riches que FST. Crayola a lancé l’année dernière 24 crayons de couleur de peau, et MattelLes poupées Barbie Fashionistas de cette année couvrent neuf tons.

La question est loin d’être académique pour Google. Lorsque la société a annoncé en février que les caméras de certains téléphones Android pouvaient mesurer la fréquence du pouls du bout des doigts, Ça disait les lectures en moyenne se tromperaient de 1,8 %, que les utilisateurs aient la peau claire ou foncée.

La société a donné plus tard similaire garantit que le type de peau n’affecterait pas sensiblement les résultats d’une fonctionnalité de filtrage des arrière-plans sur les vidéoconférences Meet, ni d’un futur outil Web pour identifier les affections cutanées, surnommé de manière informelle Derm Assist.

Ces conclusions découlent des tests avec le FST à six tons.

Le regretté dermatologue de l’Université Harvard, le Dr. Thomas Fitzpatrick a inventé la balance pour personnaliser le traitement par rayonnement ultraviolet pour le psoriasis, une affection cutanée qui démange. Il a regroupé la peau des « blancs » en chiffres romains I à IV en demandant combien de coups de soleil ou de bronzage ils développaient après certaines périodes d’exposition au soleil.

Une décennie plus tard vint le type V pour la peau « brune » et VI pour « noir ». L’échelle fait toujours partie de la réglementation américaine pour tester les produits de protection solaire, et elle reste une norme dermatologique populaire pour évaluer le risque de cancer des patients et plus encore.

Certains dermatologues disent que l’échelle est une mesure médiocre et surutilisée pour les soins, et souvent confondue avec la race et l’origine ethnique.

« Beaucoup de gens supposeraient que je suis de type V, qui brûle rarement ou jamais, mais je brûle », a déclaré le Dr Susan Taylor, dermatologue à l’Université de Pennsylvanie qui a fondé la Skin of Color Society en 2004 pour promouvoir la recherche sur les communautés marginalisées. « Regarder ma teinte de peau et dire que je suis de type V ne me rend pas service. »

Les entreprises technologiques, jusqu’à récemment, étaient indifférentes. Unicode, une association de l’industrie supervisant les emojis, a fait référence à FST en 2014 comme base pour l’adoption de cinq tons de peau au-delà du jaune, en disant l’échelle était « sans associations négatives ».

Une étude de 2018 intitulée « Nuances de genre », qui a trouvé que les systèmes d’analyse faciale confondaient plus souvent les personnes avec une peau plus foncée, popularisés à l’aide de FST pour évaluer l’IA. La recherche a décrit FST comme un « point de départ », mais les scientifiques d’études similaires qui sont venues plus tard ont déclaré à Reuters qu’ils utilisaient l’échelle pour rester cohérent.

« En tant que première mesure pour un marché relativement immature, il sert à nous aider à identifier les signaux d’alarme », a déclaré Inioluwa Deborah Raji, une membre de Mozilla spécialisée dans l’audit de l’IA.

Dans une étude d’avril tester l’IA pour détecter les deepfakes, Facebook les chercheurs ont écrit que FST « n’englobe clairement pas la diversité au sein des tons de peau marron et noir ». Pourtant, ils ont publié des vidéos de 3 000 personnes à utiliser pour évaluer les systèmes d’IA, avec des balises FST attachées sur la base des évaluations de huit évaluateurs humains.

Le jugement des évaluateurs est central. Le démarrage du logiciel de reconnaissance faciale AnyVision a donné l’année dernière exemples de célébrités aux évaluateurs : l’ancien grand joueur de baseball Derek Jeter en tant que type IV, le mannequin Tyra Banks en V et le rappeur 50 Cent en VI.

AnyVision a déclaré à Reuters qu’il était d’accord avec la décision de Google de revoir l’utilisation du FST, et Facebook a déclaré qu’il était ouvert à de meilleures mesures.

Microsoft et fabricants de montres connectées Pomme et Garmin référence FST lorsque vous travaillez sur des capteurs liés à la santé.

Mais l’utilisation de FST pourrait alimenter de « fausses assurances » sur les lectures de fréquence cardiaque des montres intelligentes sur une peau plus foncée, des cliniciens de l’Université de Californie à San Diego, inspirés par le mouvement pour l’égalité sociale Black Lives Matter, écrit dans la revue Sleep l’année dernière. Microsoft a reconnu les imperfections de FST.

Apple a déclaré qu’il testait sur les humains à travers les tons de peau en utilisant diverses mesures, FST seulement parfois parmi eux. Garmin a déclaré qu’en raison de tests de grande envergure, il pense que les lectures sont fiables. Victor Casale, qui a fondé la société de maquillage Mob Beauty et a aidé Crayola sur les nouveaux crayons, a déclaré qu’il avait développé 40 teintes de fond de teint, chacune différente de l’autre d’environ 3%, soit suffisamment pour que la plupart des adultes les distinguent.

La précision des couleurs sur l’électronique suggère que les normes technologiques devraient avoir de 12 à 18 tons, a-t-il déclaré, ajoutant: « Vous ne pouvez pas en avoir seulement six ».