L’ancienne chercheuse en intelligence artificielle de Google, Timnit Gebru, présentée en septembre 2018, a déclaré qu’elle avait été brutalement renvoyée du géant de la technologie après un différend impliquant un document de recherche.

Kimberly White / Getty Images pour TechCrunch

masquer la légende

basculer la légende

Publicité

Kimberly White / Getty Images pour TechCrunch

L’ancienne chercheuse en intelligence artificielle de Google, Timnit Gebru, présentée en septembre 2018, a déclaré qu’elle avait été brutalement renvoyée du géant de la technologie après un différend impliquant un document de recherche.

Kimberly White / Getty Images pour TechCrunch

Mis à jour à 23 h 36 HE

Des centaines d’employés de Google ont publié un lettre ouverte suite au licenciement d’une scientifique accomplie connue pour ses recherches sur l’éthique de l’intelligence artificielle et ses travaux montrant des préjugés raciaux dans la technologie de reconnaissance faciale.

Ce scientifique, Timnit Gebru, a aidé à diriger l’équipe d’intelligence artificielle éthique de Google jusqu’à mardi.

Gebru, qui est noire, dit qu’elle a été forcée de quitter l’entreprise après une dispute sur un document de recherche et un e-mail qu’elle a ensuite envoyé à ses pairs exprimant sa frustration quant à la façon dont le géant de la technologie traite les employés de couleur et les femmes.

« Au lieu d’être adopté par Google en tant que contributeur exceptionnellement talentueux et prolifique, le Dr Gebru a été confronté à la défensive, au racisme, au gaslighting, à la censure de la recherche et maintenant à un licenciement en représailles », indique la lettre ouverte. Jeudi soir, plus de 400 employés de Google et des centaines d’étrangers – dont beaucoup sont des universitaires – l’avaient signé.

Le document de recherche en question a été co-écrit par Gebru avec quatre autres chercheurs de Google et deux autres chercheurs. Il a examiné les implications environnementales et éthiques d’un outil d’IA utilisé par Google et d’autres entreprises technologiques, selon l’examen du projet de document par NPR.

Le projet de 12 pages a exploré les pièges possibles de l’utilisation de l’outil, qui scanne d’énormes quantités d’informations sur Internet et produit du texte comme s’il avait été écrit par un humain. Le journal a fait valoir qu’il pourrait finir par imiter le discours de haine et d’autres types de langage désobligeant et biaisé trouvés en ligne. Le document a également mis en garde contre le coût énergétique de l’utilisation de ces modèles d’IA à grande échelle.

Selon Gebru, elle prévoyait de présenter l’article lors d’une conférence de recherche l’année prochaine, mais ses patrons chez Google sont intervenus et ont exigé qu’elle retire l’article ou supprime tous les employés de Google en tant qu’auteurs.

Gebru a menacé de démissionner. Elle s’est ensuite tournée vers une liste de diffusion interne pour évoquer ce qu’elle considérait comme des promesses vides d’augmenter le nombre de groupes sous-représentés chez Google.

Décrivant son propre traitement comme «faisant taire les voix marginalisées», elle a également affirmé avoir reçu une explication insuffisante pour expliquer pourquoi Google s’opposait à son document de recherche. Cela lui donnait l’impression que son expertise n’était pas valorisée dans l’entreprise.

« Au lieu de dire, » OK, parlons « , ils se disent: » Vous savez quoi? Non, au revoir «  », a déclaré Gebru à NPR. « Je n’ai pas l’impression qu’ils ont réfléchi. Ils auraient pu avoir beaucoup meilleur résultat grâce au dialogue.  »

Dans la lettre ouverte, les anciens collègues de Gebru l’ont décrite comme une «scientifique révolutionnaire» qui cherchait à garantir que les systèmes d’intelligence artificielle soient tenus pour responsables. Ils ont écrit que Gebru était l’une des rares femmes scientifiques noires de Google.

Selon la lettre, le rejet de Gebru par Google équivaut à « une censure de recherche sans précédent ».

Google n’a pas eu de réponse immédiate à la lettre.

Mais dans un e-mail envoyé en interne et obtenu par NPR, le responsable de la recherche sur l’IA chez Google, Jeff Dean, a déclaré que l’article de Gebru « ne répondait pas à notre barre de publication », citant des recherches non précisées qu’elle aurait omis et qui contredisaient ses prémisses.

Dean a déclaré que depuis que Gebru avait menacé de démissionner en raison du manque de soutien de Google pour son journal, elle n’avait pas été licenciée, mais plutôt démissionnée – ce que Gebru et ses partisans contestent.

« Compte tenu du rôle de Timnit en tant que chercheuse respectée et responsable de notre équipe Ethical AI, je suis désolée que Timnit soit arrivée à un point où elle ressent de cette façon le travail que nous faisons », a écrit Dean dans l’e-mail.

Les e-mails de Dean et Gebru étaient signalé pour la première fois par Plateforme Casey Newton.

La dispute de Gebru avec Google a déclenché une vague de soutien de la part de chercheurs et d’autres sur Twitter, s’organisant autour du hashtag #ISupportTimnit.

Chercheur Joy Buolamwini, co-auteur une étude phare de 2018 Gebru montrant que la technologie de reconnaissance faciale est beaucoup plus susceptible de mal identifier les personnes de couleur, en particulier les femmes, que les hommes blancs, a déclaré que la résiliation de Gebru pourrait nuire à la réputation de Google en tenant sa propre technologie responsable.

« Ousting Timnit pour avoir l’audace d’exiger l’intégrité intellectuelle sape gravement la crédibilité de Google pour soutenir une recherche rigoureuse sur l’éthique de l’IA et l’audit algorithmique », a déclaré Buolamwini. « Elle mérite plus que ce que Google a su donner, et maintenant elle est un agent libre all-star qui continuera à transformer l’industrie de la technologie. »

En juillet, les recherches de Buolamwini et Gebru ont joué un rôle de premier plan dans le retrait d’Amazon, d’IBM et de Microsoft pour fournir la technologie aux forces de l’ordre lors des manifestations nationales contre la mort de George Floyd par la police.

Ifeoma Ozoma, un ancien cadre de Pinterest qui a quitté l’entreprise après s’être inquiétée du traitement réservé aux employés noirs, a déclaré dans une interview avec NPR qu’elle pensait que Google n’aurait pas lâché un employé blanc pour un comportement similaire.

« Elle a été licenciée à cause de qui elle est et non à cause de ce qu’elle a fait », a déclaré Ozoma, qui travaillait également chez Google.

L’éviction de Gebru, qu’elle tweeté pour la première fois sur mercredi soir, est venu le même jour le Conseil national des relations du travail m’a dit Google avait licencié illégalement deux employés qui participaient à la syndicalisation l’année dernière. L’agence fédérale a également constaté que Google avait illégalement espionné des employés qui avaient regardé une présentation d’organisation syndicale.

Ozoma, qui est un ami de Gebru, dit que Google a montré un modèle concernant les employés qui militent pour le changement au sein de l’entreprise.

« Google le fait encore et encore et ne semble pas du tout s’en soucier et semble croire qu’ils peuvent s’en tirer », a-t-elle déclaré.

Dans leur lettre ouverte, les employés de Google demandent à la haute direction de rencontrer l’équipe d’intelligence artificielle que Gebru a aidé à mener pour expliquer comment et pourquoi le document co-écrit par Gebru a été «rejeté unilatéralement» par la direction de l’entreprise.

Laisser Gebru partir pourrait rendre le lieu de travail de Google moins accueillant pour les chercheurs noirs et autres employés de couleur, ont écrit les signataires de la lettre.

« La résiliation est un acte de représailles contre le Dr Gebru, et elle annonce un danger pour les personnes travaillant pour une IA éthique et juste – en particulier les Noirs et les personnes de couleur – sur Google. »

Note de l’éditeur: Google fait partie des soutiens financiers de NPR.

Rate this post