L’éminent spécialiste de l’intelligence artificielle Timnit Gebru a contribué à améliorer l’image publique de Google en tant qu’entreprise qui élève les informaticiens noirs et remet en question les utilisations nocives de la technologie de l’IA.

Mais en interne, Gebru, un leader dans le domaine de l’éthique de l’IA, n’a pas hésité à émettre des doutes sur ces engagements – jusqu’à ce qu’elle soit expulsée de l’entreprise cette semaine dans un différend sur un document de recherche examinant les dangers sociétaux d’une branche émergente de IA

Gebru a annoncé sur Twitter qu’elle avait été licenciée. Google a dit aux employés qu’elle avait démissionné. Plus de 1 200 employés de Google ont signé une lettre ouverte qualifiant l’incident de «censure de la recherche sans précédent» et accusant l’entreprise de racisme et de défense.

La fureur suscitée par le départ brusque de Gebru est le dernier incident qui soulève la question de savoir si Google s’est si éloigné de sa devise originale «Don’t Be Evil» que l’entreprise évince désormais régulièrement les employés qui osent défier la direction.

Et il est exposé des inquiétudes au-delà de Google quant à savoir si les efforts voyants en matière d’IA éthique – allant d’un décret de la Maison Blanche cette semaine aux équipes d’évaluation éthique mises en place dans tout le secteur de la technologie – sont de peu d’utilité lorsque leurs conclusions pourraient menacer les bénéfices ou les intérêts nationaux.

La reconnaissance faciale

Gebru a été une star du monde de l’éthique de l’IA qui a passé ses débuts dans la technologie à travailler sur les produits Apple et a obtenu son doctorat en vision par ordinateur au Stanford Artificial Intelligence Laboratory.

Elle est co-fondatrice du groupe Black in AI, qui promeut l’emploi et le leadership des Noirs sur le terrain. Elle est connue pour une étude historique de 2018 qui a révélé des préjugés raciaux et sexistes dans les logiciels de reconnaissance faciale.

Gebru avait récemment travaillé sur un document examinant les risques de développer des systèmes informatiques qui analysent d’énormes bases de données de langage humain et l’utilisent pour créer leur propre texte de type humain. Le document, dont un exemplaire a été montré à l’Associated Press, mentionne la nouvelle technologie de Google, utilisée dans ses activités de recherche, ainsi que celles développées par d’autres.

En plus de signaler les dangers potentiels de biais, le document a également cité le coût environnemental de la consommation d’énergie pour faire fonctionner les modèles – un problème important pour une entreprise qui se vante de son engagement à être neutre en carbone depuis 2007 alors qu’elle s’efforce de devenir encore plus verte.

Les responsables de Google s’inquiétaient des omissions dans le travail et de son calendrier, et voulaient que les noms des employés de Google soient retirés de l’étude, mais Gebru s’y est opposé, selon un échange d’e-mails partagés avec l’AP et publiés pour la première fois par Platformer.

Gebru a exprimé mardi ses frustrations concernant le processus à un groupe de messagerie interne sur la diversité et l’inclusion chez Google, avec pour objet: «Faire taire les voix marginalisées de toutes les manières possibles.» Gebru a déclaré sur Twitter que c’était le courrier électronique qui l’avait renvoyée.

« Ousting Timnit pour avoir l’audace d’exiger l’intégrité de la recherche sape gravement la crédibilité de Google pour son soutien à une recherche rigoureuse sur l’éthique de l’IA et l’audit algorithmique », a déclaré Joy Buolamwini, chercheuse diplômée au Massachusetts Institute of Technology, co-auteur de l’étude de reconnaissance faciale 2018 avec Gebru.

« Elle mérite plus que ce que Google a su donner, et maintenant elle est un agent libre all-star qui continuera à transformer l’industrie de la technologie », a déclaré Buolamwini dans un e-mail vendredi.

La façon dont Google gérera son initiative d’éthique de l’IA et la dissidence interne suscitée par la sortie de Gebru est l’un des nombreux problèmes auxquels l’entreprise est confrontée à l’approche de la nouvelle année.

Au même moment où elle était sur le point de sortir, le Conseil national des relations du travail a jeté mercredi un autre coup de projecteur sur le lieu de travail de Google. Dans une plainte, le NRLB a accusé la société de espionnage des employés lors d’un effort de 2019 pour organiser un syndicat avant que l’entreprise ne licencie deux travailleurs militants pour s’être livrés à des activités autorisées par la loi américaine. Google a nié les allégations dans l’affaire, qui est prévue pour une audience en avril.

Google a également été qualifié d’intimidateur à but lucratif par le ministère américain de la Justice dans un procès antitrust alléguant que la société a abusé illégalement du pouvoir de son moteur de recherche dominant et d’autres services numériques populaires pour étouffer la concurrence. La société nie également tout acte répréhensible dans cette bataille juridique, qui peut durer des années.

Michael Liedtke, rédacteur d’AP Technology, à San Ramon, en Californie, a contribué à ce rapport.

Copyright 2020 Associated Press. Tous les droits sont réservés. Ce matériel ne peut être publié, diffusé, réécrit ou redistribué.