Nous avons eu 128 citations [on that paper], et nous avons envoyé notre article à bon nombre de ces personnes que nous avons citées. Nous avons été si minutieux. J’ai dit, d’accord, je veux regrouper les personnes auxquelles nous allons demander des commentaires dans quatre groupes. L’un est les gens qui ont eux-mêmes développé de grands modèles de langage, juste pour avoir leur point de vue. Le premier concerne les personnes qui travaillent dans le domaine de la compréhension et de l’atténuation des biais de ces modèles. Le premier concerne les personnes qui pourraient ne pas être d’accord avec notre opinion. Le premier concerne les personnes qui utilisent ces grands modèles linguistiques pour diverses choses. Et nous avons tout un document avec tous ces retours que nous étions censés passer en revue, et que je veux faire encore avant de publier ce travail.

Mais la façon dont ils [Google leadership] nous parlaient, ce n’était pas comme s’ils parlaient à des experts et des linguistes de renommée mondiale. Comme Emily Bender [a professor at the University of Washington and a coauthor of the paper] n’est pas une personne au hasard qui vient de mettre son nom sur un papier au hasard. J’avais l’impression que tout cela était tellement irrespectueux.

Avant ce document particulier, y avait-il des cas antérieurs dans lesquels vous aviez déjà eu le sentiment que Google restreignait ou limitait la capacité de votre équipe à mener des recherches?

J’avais l’impression que dans le passé, ils avaient beaucoup dilué les résultats de la recherche. Les gens avaient des conversations avec les relations publiques et la politique ou quoi que ce soit d’autre, et ils s’opposaient à certains termes ou à certains détails. C’est ce que je pensais qu’ils pourraient essayer de faire avec cet article aussi. J’ai donc rédigé un document et je leur demandais sans cesse: «Quels sont exactement vos commentaires? Votre commentaire est-il pour ajouter une section? Ôter? Qu’est-ce que ça veut dire? Que nous demandez-vous?

C’était littéralement mon email le vendredi après Thanksgiving [November 27, five days before Gebru’s dismissal] car le jour de Thanksgiving, j’avais passé ma journée à écrire ce document au lieu de passer un bon moment avec ma famille. Le lendemain, vendredi, date à laquelle je devais retirer ce document, j’ai écrit: «D’accord, j’ai écrit ce document de six pages adressant à un niveau élevé et bas les commentaires que je peux recueillir. Et j’espère qu’il y a au moins une ouverture pour d’autres conversations plutôt que de simples commandes supplémentaires. J’ai écrit cet e-mail. Comme ça. Comment Megan [Kacholia, the VP of engineering at Google Research] répondre à cet e-mail? Lundi, elle y répond et dit: «Pouvez-vous confirmer que vous avez soit rétracté l’article, soit retiré les noms des auteurs de cet article. Je vous remercie. Et pouvez-vous s’il vous plaît confirmer après avoir fait cela. Envoyez-moi un e-mail et confirmez. » Comme si je n’avais pas d’agence.

Ce n’est pas ce qu’ils font aux personnes qui ont commis une faute grave. Ils leur remettent 80 millions de dollars et leur donnent une jolie petite sortie. Ils ne font pas ce qu’ils m’ont fait.

Ensuite, dans ce document, j’ai écrit que cela a été extrêmement irrespectueux envers l’équipe de l’IA éthique, et qu’il doit y avoir une conversation, pas seulement avec Jeff et notre équipe, et Megan et notre équipe, mais l’ensemble de Research sur le respect des chercheurs. et comment avoir ce genre de discussions. Nan. Aucun engagement avec ça.

J’ai pleuré, au fait. Quand j’ai eu cette première réunion, qui était jeudi avant Thanksgiving, la veille de mon départ en vacances – quand Megan nous a dit que vous deviez retirer ce papier, j’ai commencé à pleurer. J’étais tellement bouleversée parce que j’ai dit, je suis tellement fatiguée des combats constants ici. Je pensais que si j’ignorais tout ce DEI [diversity, equity, and inclusion] l’hypocrisie et d’autres choses, et je me suis juste concentré sur mon travail, alors au moins je pourrais faire mon travail. Et maintenant tu viens pour mon travail. Alors j’ai littéralement commencé à pleurer.

Selon vous, qu’est-ce qui a déclenché ces événements dans cet article? Pensez-vous qu’il s’agissait en fait de ce document, ou y avait-il d’autres facteurs en jeu?

Je ne sais pas. Samy était horrifié par tout cela. Il était comme, ce n’est pas ainsi que nous traitons les chercheurs. Je veux dire, ce n’est pas ainsi que vous traitez les gens en général. Les gens parlent de la façon dont, si cela arrive à quelqu’un, cela a accompli – cela me fait imaginer ce qu’ils font aux gens, en particulier aux personnes appartenant à des groupes vulnérables.