Marcio Jose Sanchez / AP
Les membres d’une prestigieuse unité de recherche de Google ont envoyé une lettre au directeur général de la société demandant que le chercheur en intelligence artificielle évincé Timnit Gebru soit réintégré.
Gebru, qui étudie l’éthique de l’IA et était l’un des rares chercheurs noirs chez Google, dit qu’elle a été congédiée de manière inattendue après une dispute sur un article universitaire et des mois à parler du besoin de plus de femmes et de personnes de couleur dans la technologie. géant.
Dans une lettre envoyée mercredi par des membres de l’équipe Ethical AI de Google au PDG Sundar Pichai, les anciens collègues de Gebru demandent qu’elle soit réembauchée et promue, parmi une foule d’autres demandes, selon une copie de la note obtenue par NPR qui était la première signalé par Bloomberg.
« Offrir à Timnit son poste à un niveau supérieur contribuerait grandement à rétablir la confiance et à reconstruire l’environnement de notre équipe », lit-on dans la lettre envoyée par l’employé de Google Alex Hanna au nom de l’équipe Ethical AI, que Gebru a codirigée avant qu’elle ne soit expulsée. « Le retrait de Timnit a eu un effet démoralisant sur l’ensemble de notre équipe. »
Depuis la résiliation de Gebru plus tôt ce mois-ci, plus de 2600 Googleurs ont signé une lettre ouverte exprimant consterné par la façon dont Gebru a quitté l’entreprise et a demandé aux dirigeants une explication complète de ce qui avait motivé son licenciement.
Dans la lettre de l’équipe AI à Pichai, les anciens collègues de Gebru demandent que Megan Kacholia, vice-présidente de Google Research que les chercheurs accusent de contourner le superviseur direct de l’équipe pour licencier Gebru, soit retirée de leur chaîne de reporting.
« Nous avons perdu confiance en Megan Kacholia », ont écrit les chercheurs, affirmant que le licenciement de Gebru s’était produit « sans avertissement plutôt que d’engager un dialogue ».
Google, qui appartient à la société mère Alphabet Inc., n’a pas répondu à une demande de commentaire.
Google a soutenu que Gebru avait démissionné, bien que Gebru dise qu’elle n’a jamais accepté volontairement de quitter l’entreprise. Dans un e-mail d’entreprise après l’épisode, Pichai a reconnu que l’incident « a semé le doute et conduit certains membres de notre communauté à remettre en question leur place chez Google ». Il s’est engagé à rétablir la confiance des employés et à soutenir la recherche indépendante.
Pourtant, dans la lettre qu’ils lui ont adressée mercredi, les chercheurs doutaient que leur travail puisse reprendre en l’absence de révisions majeures au sein de l’entreprise.
Gebru a aidé à établir Black in AI, un groupe qui soutient les chercheurs noirs dans le domaine de l’intelligence artificielle. Elle a également été co-auteur de recherche pionnière dans la technologie de reconnaissance faciale qui a démontré comment les personnes de couleur et les femmes sont bien plus souvent identifiées que les visages blancs. L’étude aidé à persuader IBM, Amazon et Microsoft cessent de vendre la technologie aux forces de l’ordre.
Chez Google, l’ancienne équipe de Gebru a écrit dans la lettre de mercredi que l’étude des moyens de réduire les méfaits de l’IA sur les groupes marginalisés est la clé de leur mission.
Et ils craignaient que «les intérêts à court terme et les programmes de revenus immédiats de Google» ne fassent obstacle à l’examen de domaines d’étude sensibles.
Le mois dernier, Google a demandé brusquement à Gebru de retirer un document de recherche axé sur les biais potentiels cuits dans un système d’IA qui tente d’imiter la parole humaine. La technologie permet d’alimenter le moteur de recherche de Google. Google affirme que l’article n’a pas respecté sa barre de publication et que Gebru n’a pas suivi le protocole d’examen interne de l’entreprise.
Gebru et ses partisans rétorquent qu’elle était ciblée en raison de son franc-parler sur les questions de diversité, un thème qui a été souligné dans la lettre.
«La décision à courte vue de Google de licencier et de riposter contre un membre clé de l’équipe Ethical AI montre clairement que nous avons besoin de changements rapides et structurels si ce travail doit se poursuivre et si la légitimité du domaine dans son ensemble est de persévérer. »
La lettre indique que les hauts dirigeants de Google se sont engagés à faire progresser la diversité, l’équité et l’inclusion au sein de ses unités de recherche, mais à moins que des mesures plus concrètes et immédiates ne soient prises, ces promesses sont « un signal de vertu; elles sont préjudiciables, évasives, défensives et démontrent l’incapacité du leadership à comprendre comment notre organisation fait partie du problème », selon la lettre.
Les membres de l’équipe d’IA demandent également aux dirigeants de Google de suivre une formation sur l’alphabétisation raciale, arguant que «la toxicité» envers les personnes de couleur de l’équipe de recherche de Google «doit cesser».
Ils disent que Jeff Dean, vice-président senior de Google Research, et d’autres dirigeants impliqués dans le licenciement de Gebru doivent être tenus responsables. Ils veulent que Dean présente des excuses à Gebru. Ils demandent également à la direction de Google de cesser de qualifier son éviction de démission, affirmant qu’un tel «gaslighting» a causé du tort à Gebru et à la communauté noire de Google.
Google a une histoire de riposte contre les employés qui militent en interne pour le changement. Organisateurs du monde entier débrayages chez Google en 2018 sur le harcèlement sexuel et d’autres problèmes ont été licenciés par l’entreprise. Et plus récemment, le National Labour Relation Board accusé Google du licenciement illégal de travailleurs impliqués dans l’organisation syndicale.
Cette fois, cependant, les chercheurs implorent Google de ne pas rétrograder, renvoyer ou punir d’une autre manière quiconque est impliqué dans le soutien de Gebru.
« Nous savons par les représailles passées de Google qu’ils continuent souvent de nuire et de marginaliser les travailleurs sans les licencier carrément, en particulier ceux qui ont plaidé pour leurs collègues », ont écrit les chercheurs à Pichai.