Lorsque Luke Stark a demandé de l’argent à Google en novembre, il n’avait aucune idée qu’il refuserait 60000 $ au géant de la technologie en mars.

Stark, professeur adjoint à l’Université Western en Ontario, au Canada, étudie les impacts sociaux et éthiques de l’intelligence artificielle. À la fin de novembre, il a demandé un Prix ​​Google Research Scholar, une subvention de recherche sans conditions pouvant atteindre 60 000 $ pour soutenir les professeurs qui sont au début de leur carrière.

Il a remporté le prix, a-t-il déclaré, « parce que j’avais l’impression à l’époque que Google construisait une équipe d’intelligence artificielle vraiment forte et potentiellement leader dans le secteur. »

Peu de temps après, ce sentiment a commencé à se dissiper. Début décembre, Timnit Gebru, le co-chef de l’équipe d’intelligence artificielle de Google et une femme noire de premier plan dans un domaine principalement masculin et blanc, a brusquement quitté Google. Le mercredi 2 décembre, elle tweeté qu’elle avait été «immédiatement licenciée» pour un e-mail qu’elle a envoyé à une liste de diffusion interne. Dans l’e-mail, elle a exprimé sa consternation face au manque persistant de diversité au sein de l’entreprise et la frustration suscitée par un processus interne lié à l’examen d’un document alors non publié. document de recherche sur les risques liés à la construction de modèles de langage IA de plus en plus larges – une sorte d’intelligence artificielle de plus en plus important à l’énorme activité de recherche de Google.

À l’époque, Gebru a déclaré que la direction de Google AI lui avait dit de retirer le document de la considération pour une présentation lors d’une conférence, ou d’en retirer son nom. Google a déclaré avoir accepté la démission de Gebru en raison d’une liste de demandes qu’elle avait envoyées par e-mail et qui devaient être satisfaites pour qu’elle puisse continuer à travailler dans l’entreprise.

L’éviction de Gebru a déclenché une crise de plusieurs mois pour l’entreprise, notamment départs d’employés, un remaniement du leadership, et des excuses du PDG de Google pour la façon dont les circonstances du départ de Gebru ont poussé certains employés à remettre en question leur place là-bas.Google a mené une enquête interne dans la matière, dont les résultats ont été annoncés le même jour, la société a licencié la co-chef d’équipe de Gebru, Margaret Mitchell, qui avait constamment critiqué la société sur Twitter après le départ de Gebru. (Google a cité de «multiples violations» de son code de conduite.) Pendant ce temps, les chercheurs extérieurs à Google, en particulier dans le domaine de l’IA, sont devenus de plus en plus méfiants à l’égard de la bourse d’études historiquement bien considérée de la société et en colère contre son traitement de Gebru et Mitchell.

Tout cela a été mis au point pour Stark le mercredi 10 mars, lorsque Google lui a envoyé une note de félicitations, lui offrant 60000 $ pour sa proposition de projet de recherche qui examinerait la façon dont les entreprises déploient une IA qui est utilisée pour détecter les émotions. Stark a déclaré qu’il avait immédiatement senti qu’il devait rejeter le prix pour montrer son soutien à Gebru et Mitchell, ainsi qu’à ceux qui restent encore dans l’équipe d’intelligence artificielle de Google.

«Ma première pensée a été:« Je dois refuser »», a déclaré Stark à CNN Business.

Stark fait partie d’un nombre croissant de personnes dans le milieu universitaire qui citent les sorties de Gebru et Mitchell pour des décisions récentes de renoncer au financement ou aux opportunités fournies par l’entreprise. Certains organisateurs de conférences sur l’IA envisagent de faire de Google un sponsor.Et au moins un universitaire qui a reçu un gros chèque de Google dans le passé a déclaré depuis ne cherchera pas son soutien financier jusqu’à ce que des modifications soient apportées dans l’entreprise.

«En toute bonne conscience, je ne peux plus accepter le financement d’une entreprise qui traite ses employés de cette manière», a déclaré à CNN Business Vijay Chidambaram, professeur adjoint à l’Université du Texas à Austin qui étudie les systèmes de stockage. Chidambaram avait précédemment reçu 30000 dollars de Google en 2018 pour un projet de recherche.

L’argent impliqué n’a que peu d’importance pour Google. Mais les retombées grandissantes des tensions de Google avec son équipe d’IA éthique posent désormais un risque pour l’entreprise.réputation et stature dans la communauté de l’IA. Ceci est crucial alors que Google se bat pour les talents – à la fois en tant qu’employés de l’entreprise et en tant que noms qui lui sont liés dans la communauté universitaire.

«Je pense que c’est plus répandu que même l’entreprise ne le pense», a déclaré Stark.

Déclin de la solidarité

Malgré son inclination initiale, Stark n’a pas immédiatement refusé le prix de Google. Il a parlé à ses collègues de ce qu’il prévoyait de faire – «Les gens soutenaient la décision que je prenais», a-t-il dit – avant d’envoyer sa réponse à Google le vendredi suivant. Il a remercié l’entreprise pour le «vote de confiance» dans sa recherche, mais a écrit qu’il «refusait ce prix en solidarité avec les Drs. Gebru et Mitchell, leurs coéquipiers et tous ceux qui ont été dans des situations similaires », selon des courriels consultés par CNN Business.

« J’attends avec impatience la possibilité de collaborer à nouveau avec Google Research, au moment où l’organisation et ses dirigeants auront réfléchi à leur décision dans cette affaire, abordé les torts qu’ils ont causés et se sont engagés, en paroles et en actes, à favoriser recherche et produits critiques qui soutiennent l’équité et la justice », a écrit Stark.

Il tweeté à propos de sa décision de rejeter également le prix, de le rendre public, notant que de nombreuses personnes ne peuvent pas se permettre de refuser un tel financement de Google ou d’autres entreprises. Stark est capable de renoncer à l’argent parce que son département de l’Université Western est suffisamment financé. Le prix de Google aurait fourni des fonds supplémentaires pour la recherche, a-t-il déclaré.

«Tout ce que nous pouvons faire, c’est ce que nous pouvons raisonnablement faire – et c’est quelque chose que je sentais que je pouvais», Stark tweeté.

Gebru a dit qu’elle appréciait l’action de Stark.

«C’est un gros problème pour quelqu’un de refuser le parrainage de Google», a-t-elle déclaré à CNN Business. «Surtout quelqu’un qui est au début de sa carrière.»

Un porte-parole de Google a déclaré qu’au cours des 15 dernières années, la société avait fourni plus de 6 500 subventions universitaires et de recherche à des personnes extérieures à Google. Stark est la première personne à en refuser une, selon le porte-parole.

«La façon dont ils ont été traités a été un véritable fiasco»

Pourtant, la décision de Stark n’est que la dernière manifestation de solidarité avec Gebru et Mitchell.

Le premier signe évident de colère est venu juste après que Gebru a quitté Google. UNE Poste moyen décriant son départ et exiger la transparence sur la décision de Google concernant le document de recherche a rapidement obtenu les signatures des employés et des supporters de Google dans les domaines académique et de l’IA; à la fin du mois de mars, son nombre de supporters était passé à près de 2 700 employés de Google et à plus de 4 300 autres.

Début mars, la conférence à laquelle Gebru et ses coauteurs avaient soumis le document, le Conférence ACM sur l’équité, la responsabilité et la transparence, ou FAccT, a mis fin à son accord de parrainage avec Google. Gebru est l’un des fondateurs de la conférence et a été membre du premier comité exécutif de FAccT. Google était sponsor chaque année depuis le début de la conférence annuelle en 2018. Michael Ekstrand, coprésident du réseau ACM FAccT, a confirmé à CNN Business que le parrainage avait été interrompu, affirmant que la décision était déterminée comme étant «dans le meilleur intérêt de la communauté »et que le groupe« revisitera »sa politique de parrainage pour 2022. Ekstrand a déclaré que Gebru n’était pas impliqué dans la décision.

Toujours en mars, deux universitaires ont protesté contre les actions de Google tweeter cette ils ont décidé de ne pas assister à un événement de recherche en robotique sur invitation uniquement qui se tenait en ligne. Hadas Kress-Gazit, professeur de robotique à Cornell, était l’un d’entre eux; elle a dit qu’elle avait été invitée en janvier, mais qu’elle était devenue plus réticente à mesure que l’événement se rapprochait.

«C’était un véritable fiasco la façon dont [Gebru and Mitchell] ont été traitées. Personne ne s’est encore excusé auprès d’eux », a-t-elle déclaré à CNN Business dans une récente interview. «Je ne veux pas interagir avec des entreprises qui se comportent de cette façon envers les meilleurs chercheurs.»

Les efforts de Google pour repousser les limites de l’IA

Google est conscient que sa réputation en tant qu’institution de recherche a été lésée ces derniers mois, et la société a déclaré qu’elle avait l’intention de la réparer. Lors d’une récente réunion publique de Google, dont Reuters a fait rapport pour la première fois et dont CNN Business a également obtenu l’audio, la société a décrit les changements qu’elle apportait à ses pratiques internes de recherche et de publication.

«Je pense que le moyen de regagner la confiance est de continuer à publier des travaux de pointe dans de très nombreux domaines, y compris repousser les limites sur des sujets liés à l’IA responsable, publier des choses qui sont profondément intéressantes pour la communauté de la recherche, je pense en est un des meilleurs moyens de continuer à être un chef de file dans le domaine de la recherche », a déclaré Jeff Dean, responsable de l’intelligence artificielle chez Google. Il répondait à une question d’un employé concernant des chercheurs externes disant qu’ils liront les articles de Google «avec plus de scepticisme maintenant».

Gebru espère que, comme FAccT, davantage de conférences réévalueront leurs relations avec les laboratoires de recherche des entreprises technologiques. Historiquement, une grande partie du travail de développement et d’étude de l’IA a été effectuée dans des contextes académiques. Mais à mesure que les entreprises ont trouvé de plus en plus d’utilisations commerciales pour la technologie, les frontières entre le monde universitaire et celui de l’entreprise se sont estompées. Google n’est qu’une des nombreuses entreprises de technologie qui exerce une grande influence sur les conférences universitaires qui publient de nombreux articles de ses chercheurs; ses employés siègent à des conseils de conférence et il parraine de nombreuses conférences chaque année, parfois pour des dizaines de milliers de dollars.

Par exemple, Google et certaines filiales de sa société mère, Alphabet, ont été répertoriés comme sponsors de niveau «platine» de 20 000 $ et 10 000 $ «or» lors de la Conférence internationale sur l’apprentissage automatique, ou ICML et de la Conférence sur les systèmes de traitement de l’information neuronale, ou NeurIPS, en 2020 – deux conférences clés sur l’IA. Et certains employés de l’entreprise siègent à leurs comités d’organisation.

Le président de l’ICML, John Langford, a déclaré que la conférence était «actuellement ouverte au parrainage» par Google pour sa conférence 2021, prévue pour juillet.

«Il y a pas mal de discussions en cours sur la façon dont l’ICML en tant que conférence devrait encourager une bonne culture et des pratiques d’apprentissage automatique avec une future politique de parrainage faisant partie de cette discussion», a-t-il ajouté.

La directrice exécutive de NeurIPS, Mary Ellen Perry, a déclaré que la conférence n’avait pas encore lancé son appel annuel de commandites, mais que les demandes «seront évaluées par rapport à un ensemble de lignes directrices de sélection mises en place par les présidents des commandites de cette année»; NeurIPS est prévu pour décembre.

Pour Stark et d’autres membres de la communauté de recherche universitaire, cependant, leurs critères d’acceptation des fonds de Google ont déjà changé.

«Un financement supplémentaire pour la recherche serait formidable», a déclaré Stark. « Mais c’était quelque chose que je sentais que je ne pouvais tout simplement pas supporter. »