Google apporte des changements à la direction de ses efforts d’intelligence artificielle responsable des mois après la départ contentieux Timnit Gebru, éminent chercheur en intelligence artificielle noir, a secoué la société.

Le géant de la technologie a déclaré dans un article de blog Jeudi, Marian Croak, une femme noire qui a été vice-présidente de l’entreprise pendant six ans et travaillant sur une gamme de projets, notamment la mise en place d’une connexion Wi-Fi publique sur les chemins de fer en Inde, dirigera un nouveau centre axé sur l’IA responsable au sein de Google Research. L’annonce, qui comprenait une interview vidéo avec Croak, vantait ses décennies d’expérience technologique et ses brevets pour des technologies telles que la voix sur IP.

Croak rapportera à Jeff Dean, responsable de l’intelligence artificielle chez Google. Dix équipes centrées sur l’éthique, l’équité et l’accessibilité de l’IA – y compris l’équipe d’IA éthique, que Gebru avait précédemment aidé à diriger – lui rapporteront.

Le déménagement a été signalé pour la première fois par Bloomberg mercredi soir.

Dans le billet de blog, Croak souligné à quel point le domaine de l’IA éthique est nouveau – il n’est sur les écrans radar de nombreux chercheurs en IA que depuis quelques années. Elle a fait remarquer qu’il y a «beaucoup de conflits» actuellement sur le terrain, comme la normalisation excessive des définitions de «l’équité» ou de la «sécurité», qui peuvent être polarisantes.

«Et ce que j’aimerais faire, c’est que les gens aient la conversation d’une manière plus diplomatique, peut-être, que nous l’avons maintenant, afin que nous puissions vraiment faire avancer ce domaine», a-t-elle déclaré. Elle aussi des plans pour entreprendre une «évaluation critique de tous les systèmes d’IA déployés ou en cours de conception et essayer de comprendre où se trouvent les lacunes» et travailler au sein de Google pour réduire les «dommages potentiels».

Jusqu’au début décembre, quand elle a brusquement quitté l’entreprise, Gebru était le co-leader de l’équipe IA éthique de Google. Pionnière dans la recherche sur les préjugés et les inégalités en IA, elle était également l’une des rares employées noires dans l’ensemble de l’entreprise (3,7% des employés de Google sont noirs, selon le rapport annuel sur la diversité 2020 de l’entreprise). Le chercheur est également co-fondateur du groupe Black in AI, qui vise à accroître la représentation des Noirs sur le terrain.

Gebru a d’abord tweeté qu’elle avait été «immédiatement licenciée» pour un e-mail qu’elle avait récemment envoyé à la liste de diffusion interne de Google Brain Women and Allies. Dans l’e-mail, elle a exprimé sa consternation face au manque persistant de diversité au sein de l’entreprise et sa frustration face à un processus interne lié à l’examen d’un document de recherche non encore publié qu’elle a co-écrit. Dean a déclaré dans un e-mail aux employés de Google Research (qu’il publié publiquement) que l’article en question n’a pas été soumis à un examen interne suffisamment longtemps avant la date limite et qu’il «n’a pas respecté notre barre de publication».

Dans des tweets ultérieurs, Gebru a précisé que personne chez Google ne lui avait explicitement dit qu’elle avait été licenciée. Elle a plutôt déclaré que Google ne remplirait pas certaines de ses conditions de retour et a accepté sa démission immédiatement, car elle estimait que son e-mail reflétait « un comportement incompatible avec les attentes d’un responsable Google ».

La sortie soudaine de Gebru a suscité la colère de nombreux employés de Google et d’autres acteurs du secteur de la technologie qui continue de mijoter des mois plus tard, souvent exposée via des publications émotionnelles sur Twitter. La PDG Sundar Pichai a écrit dans une note aux employés de Google peu après son départ que l’entreprise enquêterait sur ce qui s’était passé.

Plus tôt ce mois-ci, deux employés de Google ont démissionné suite à la sortie de Gebru, et Margaret Mitchell, une chercheuse de Google qui, jusqu’au départ brusque de Gebru, codirigeait le groupe avec elle, a été mise en congé administratif en janvier, comme elle l’a confirmé à CNN Business à l’époque.

Une porte-parole de Google n’a fait aucun commentaire sur la nouvelle position de Croak au-delà de pointer CNN Business vers le blog de l’entreprise.

Gebru n’a pas pu être contacté immédiatement pour commenter, mais dans un tweeter Mercredi soir, elle a écrit que l’annonce de Croak, une autre femme noire, donne l’impression que «nous sommes tous interchangeables» et a qualifié les actions de l’entreprise depuis son départ «au-delà de l’éclairage au gaz».

«Je n’ai pas assez de mots pour exprimer à quel point c’est horrible en ce moment», a-t-elle écrit.

Un employé de Google familier avec la situation qui a demandé l’anonymat en raison de problèmes de confidentialité a déclaré qu’eux-mêmes et d’autres employés avaient initialement appris la nomination de Croak de l’article de Bloomberg mercredi soir, plutôt que de Google lui-même, bien qu’une réunion jeudi ait confirmé le changement. L’employé a déclaré que le moral du groupe d’IA éthique était «assez bas».

«Je suis vraiment très énervé», a déclaré l’employé.