Le tollé se développe au sein de Google sur le traitement des Chercheur en éthique de l’IA Timnit Gebru, avec les collègues de Gebru contestant le compte rendu de la société de sa sortie dans une lettre ouverte.

Dans un lettre postée lundi sur Medium, les collègues de Gebru ont contesté l’affirmation d’un cadre selon laquelle elle avait démissionné et ont remis en question les politiques de recherche internes.

« Le Dr Gebru n’a pas démissionné, malgré ce que Jeff Dean (Senior Vice President et Head of Google Research) a déclaré publiquement», Lit-on dans la lettre avant d’entrer dans les détails sur les événements qui ont conduit au licenciement de Gebru.

Gebru, une scientifique noire très respectée dans son domaine, a déclaré sur Twitter la semaine dernière qu’elle avait été licenciée après avoir envoyé un e-mail à un groupe d’entreprise interne pour les femmes et leurs alliés, exprimant leur frustration face à la discrimination chez Google et un différend sur l’un de ses articles qui a été retiré après avoir été initialement approuvé pour publication.

Le document en question a examiné les problèmes éthiques associés à la technologie langagière de l’IA et aurait mentionné Le propre logiciel de Google, qui est important pour le développement du modèle commercial de l’entreprise.

Dans un déclaration publiée vendredi, Dean a réitéré la position de la société selon laquelle Gebru avait démissionné et a détaillé le processus de recherche et d’examen de la société, qui, selon lui, nécessitait deux semaines. L’article de Gebru, a-t-il dit, a été soumis un jour avant la date limite.

Lundi, l’équipe de Gebru a rejeté son argument, arguant que près de la moitié de tous les documents sont soumis dans un délai d’un jour ou moins. «Il est donc clair que c’est une norme qui était appliqué de manière inégale et discriminatoire», Ont-ils écrit dans la lettre.

Le document a également reçu l’approbation du directeur de Gebru, Samy Bengio, qui a dit qu’il était « stupéfait » par son licenciement dans un message public sur Facebook.

Margaret Mitchell, co-responsable de Gebru sur le Google Ethical AI Team, a également publiquement pris sa défense, publiant des réfutations à chacune des affirmations de Dean sur les raisons pour lesquelles le document n’était pas conforme aux normes internes et contestant la politique elle-même pour avoir conduit à la censure scientifique. «Je crois que je suis obligée de prendre la parole lorsque mon employeur me rabaisse publiquement, moi et / ou la bourse de mes collègues», a-t-elle écrit.

La lettre fait suite à une pétition de solidarité avec Gebru publiée la semaine dernière qui accuse l’entreprise de «censure de la recherche sans précédent», de racisme et de ses tirs de représailles. La pétition, qui inclut des demandes de transparence sur les décisions menant au retrait du document et au licenciement de Gebru et un «engagement sans équivoque en faveur de l’intégrité de la recherche et de la liberté académique», a maintenant été signée par plus de 1 800 employés de Google – dont certains à des postes de directeur – et 2 650 partisans du monde universitaire, de l’industrie et de la société civile.

« L’intégrité de la recherche ne peut plus être considérée comme acquise dans l’environnement de recherche d’entreprise de Google, et le licenciement du Dr Gebru a renversé une compréhension de travail du type de recherche que Google autorisera », ont écrit les pétitionnaires. « 

Les préoccupations concernant la discrimination chez Google se sont accrues depuis des milliers d’employés dans le monde organisé des débrayages pour protester contre le harcèlement sexuel et le racisme systémique en novembre 2018. Dans une plainte déposée par le Conseil national des relations du travail (NLRB) la semaine dernière, la société accusé d’avoir surveillé et licencié illégalement des travailleurs qui a organisé des manifestations.

Mais la sortie de Gebru soulève également des questions sur le potentiel de la société à censurer la science avec des politiques d’examen interne. Les chercheurs en IA demandent aux scientifiques de cesser d’examiner les articles de Google et aux conférences universitaires de cesser d’inclure les recherches publiées par la société.

« Je ne peux même pas commencer à imaginer les interférences que les gens de Google ont subies dans le passé, subissent maintenant ou vont subir à l’avenir », a écrit Ali Alkhatib, chercheur au Center for Applied Data Ethics de l’Université de San Francisco. sur son blog dimanche, remettant en question les politiques exposées dans la déclaration de Dean. « Je ne peux pas être sûr qu’aucune recommandation radicale faite par un article n’a été soigneusement élaguée par quelqu’un de Google qui a peut-être activement menacé de ‘démissionner’ l’auteur s’il ne l’acceptait pas. »