La lettre, envoyée au PDG Sundar Pichai, s’intitule « L’avenir de l’IA éthique chez Google ». Il expose les démarches que les chercheurs souhaitent que l’entreprise entreprenne afin de «reconstruire la confiance» avec l’équipe et de créer un environnement dans lequel ils peuvent continuer leur travail. L’équipe étudie les répercussions éthiques de l’intelligence artificielle et conseille l’entreprise sur les politiques et les produits d’IA.
Cela fait suite à la sortie soudaine de Timnit Gebru, qui jusqu’à début décembre était le co-chef de l’équipe Ethical AI de Google. Elle était également l’une des rares employées noires
dans l’ensemble de l’entreprise (3,7% des employés de Google sont noirs, selon le rapport annuel sur la diversité 2020 de l’entreprise) – et encore moins dans sa division IA. Le chercheur est également co-fondateur du groupe Black in AI, qui vise à accroître la représentation des Noirs sur le terrain.
Les demandes dans la lettre incluent la suppression d’une vice-présidente de Google, Megan Kacholia, de la chaîne de gestion de l’équipe; pour la transparence entourant le départ de Gebru; et que le chef de l’IA de Google, Jeff Dean et Kacholia, s’excuse pour la façon dont Gebru a été traité. Il appelle également la société à offrir à Gebru un nouveau poste de plus haut niveau, à s’engager publiquement en faveur de l’intégrité des recherches menées chez Google et à garantir que cela ne nuira pas aux travailleurs qui ont plaidé pour Gebru.
Dans un message envoyé à Pichai et à d’autres personnes lié à la lettre, Alex Hanna, chercheur principal au sein de l’équipe Ethical AI, a déclaré qu’il avait été envoyé au nom de son équipe. Une source proche de l’équipe a déclaré qu’elle comprend environ une douzaine de membres.
Première
rapporté par Bloomberg, CNN Business a également obtenu une copie de la lettre et confirmé son authenticité. Google n’a pas immédiatement répondu à une demande de commentaire.
Le mercredi 2 décembre, Gebru
tweeté qu’elle avait été « immédiatement renvoyée »
pour un e-mail qu’elle a récemment envoyé à la liste de diffusion interne Brain Women and Allies de Google. Dans l’e-mail, elle a exprimé sa consternation face au manque persistant de diversité au sein de l’entreprise et sa frustration face à un processus interne lié à l’examen d’un document de recherche non encore publié qu’elle a co-écrit.
Dans
tweets ultérieurs, Gebru a précisé que personne chez Google ne lui avait explicitement dit qu’elle avait été licenciée. Elle a plutôt déclaré que Google ne remplirait pas certaines de ses conditions de retour et a accepté sa démission immédiatement, car elle estimait que son e-mail reflétait « un comportement incompatible avec les attentes d’un responsable Google ».
La sortie soudaine de Gebru a rapidement mis en colère des milliers d’employés de l’entreprise et d’autres membres des communautés technologiques et universitaires.
Google a dit
le mercredi 9 décembre qu’il examinerait le départ de Gebru. Dans un mémo envoyé à
Google (GOOG)employés, Pichai a écrit que la société devait «évaluer les circonstances» qui ont conduit Gebru à quitter Google la semaine dernière et examiner «où nous aurions pu nous améliorer et mener un processus plus respectueux».
« Nous allons commencer un examen de ce qui s’est passé pour identifier tous les points sur lesquels nous pouvons apprendre – en tenant compte de tout, des stratégies de désescalade aux nouveaux processus que nous pouvons mettre en place », a-t-il écrit dans un mémo confirmé par CNN Business. .
Gebru est connue pour ses recherches sur les biais et les inégalités en IA, et en particulier pour un 2018
papier elle a co-écrit ce qui a souligné à quel point les logiciels de reconnaissance faciale commerciaux ont mal réussi lorsqu’ils tentent de classer les femmes et les personnes de couleur. Leur travail a suscité une prise de conscience généralisée des problèmes courants de l’IA aujourd’hui, en particulier lorsque la technologie est chargée d’identifier tout ce qui concerne les êtres humains.
