Les employés de Google qui ont travaillé avec Timnit Gebru se manifestent publiquement pour contester les allégations contre le chercheur vedette en éthique de l’IA. Lundi, l’équipe a publié une lettre sur le compte Google Walkout Medium déclarant fermement que Gebru a été congédié et n’a pas démissionné en tant que responsable de l’intelligence artificielle de Google, Jeff Dean, a déclaré. Ils ont également déclaré que la politique d’examen des publications que Gebru était censé suivre était appliquée «de manière inégale et discriminatoire».

«Dr. Le licenciement de Gebru a été présenté comme une démission, mais selon les propres mots du Dr Gebru, elle n’a pas démissionné », indique la lettre. Il note que Gebru a demandé que certaines conditions soient remplies pour qu’elle reste chez Google, y compris la transparence autour de qui voulait que son article soit retiré. En fin de compte, les dirigeants de l’équipe d’IA éthique ont déclaré qu’ils ne pouvaient pas remplir ces conditions et ont accepté de manière préventive sa démission. Son propre manager a déclaré qu’il était «abasourdi».

Le document qui a permis à Gebru de déclencher des risques potentiels détaillés associés aux grands modèles de traitement du langage, y compris le recours excessif aux données de pays riches qui ont plus d’accès à Internet. “Le résultat est que le langage généré par l’IA sera homogénéisé, reflétant les pratiques des pays et des communautés les plus riches”, a écrit Examen de la technologie MIT.

Cette recherche aurait pu être problématique pour Google, qui a créé un grand modèle de langage appelé BERT en 2018, qui a changé la façon dont il interroge les résultats de recherche.

Gebru prévoyait de présenter le document lors d’une conférence informatique en mars. Le 7 octobre, elle l’a soumis pour examen en interne chez Google. Peu après minuit le 8 octobre, il a été approuvé.

Dans sa déclaration, Dean a déclaré que l’équipe de recherche avait besoin de deux semaines pour son examen. “Malheureusement, ce document n’a été partagé qu’avec un préavis d’un jour avant sa date limite,” il a écrit.

Mais l’équipe de Gebru repousse cette évaluation, affirmant que la politique de révision est censée être flexible et que la plupart des gens ne suivent pas la structure définie par Dean. L’équipe a collecté des données montrant que la grande majorité des approbations ont lieu juste avant la date limite, et 41% ont lieu après la date limite. «Il n’y a aucune exigence stricte pour que les articles passent par cet examen avec un préavis de deux semaines», ont-ils écrit.

Les responsables de Google ont demandé à Gebru de retirer le papier ou de retirer son nom, une demande qui, selon elle, ressemblait à de la censure dans une interview avec Filaire. «Vous n’allez pas avoir de papiers qui rendent l’entreprise heureuse tout le temps et ne signalent pas les problèmes», dit-elle. «C’est contraire à ce que signifie être ce genre de chercheur.»

Gebru a envoyé un e-mail à la liste de diffusion Brain Women and Allies de Google détaillant le refoulement qu’elle avait obtenu sur le papier. Elle a également exprimé son exaspération face aux efforts de diversité, d’équité et d’inclusion de l’entreprise. «Le DEI [objectives and key results] que nous ne savons pas d’où ils viennent (et ne sont jamais rencontrés de toute façon), les discussions aléatoires, le “ nous avons besoin de plus de mentorat ” plutôt que “ nous devons arrêter les environnements toxiques qui nous empêchent de progresser ” les combats et l’éducation constants à vos frais, ils n’ont pas d’importance », a-t-elle écrit.

Cette frustration était partagée par les membres de son équipe qui estimaient que les objectifs de l’entreprise de créer un lieu de travail plus diversifié et plus équitable étaient faibles. «Ce sont des demandes vraiment dérisoires», déclare Alex Hanna, chercheur senior qui a travaillé sous Gebru.

Plus de 1500 employés ont signé une pétition Google Walkout protestant contre le licenciement de Gebru. «Au lieu d’être adopté par Google en tant que contributeur exceptionnellement talentueux et prolifique, le Dr Gebru a été confronté à la défensive, au racisme, à la censure de la recherche, et maintenant à des représailles», indique la pétition.

Mais ce sont les membres de son équipe qui ressentent le plus la perte. «Nous sommes assez dégonflés», dit Hanna. «Quand quelqu’un qui est le cœur et l’âme de votre équipe est licencié pour avoir fait de la recherche en éthique, que pouvez-vous faire?»

Correction: Une version antérieure de cet article indiquait que la lettre avait été signée par plus de 1 500 employés de Google. C’était la pétition Google Walkout. Nous regrettons l’erreur.

Leave a Reply