Google est actuellement sous le feu depuis apparemment expulser un chercheur dont les travaux mettaient en garde contre les préjugés dans l’IA, et maintenant un rapport de Reuters dit que d’autres personnes effectuant ce type de travail dans l’entreprise ont été invitées à «adopter un ton positif» et à subir des examens supplémentaires pour des recherches portant sur des «sujets sensibles».

Reuters, citant des chercheurs de l’entreprise et des documents internes, rapporte que Google a mis en place de nouveaux contrôles au cours de l’année dernière, y compris une série supplémentaire d’inspection des articles sur certains sujets et apparemment une augmentation de l’ingérence de la direction aux stades ultérieurs de la recherche.

Cela semble certainement avoir été le cas avec le Dr. Timnit Gebru, une chercheuse en IA chez Google dont la démission semble avoir été forcée dans des circonstances déroutantes, à la suite de frictions entre elle et la direction sur le travail de son équipe. (J’ai demandé à Gebru et à Google de commenter l’histoire.)

Parmi les sujets «sensibles», selon une page Web interne consultée par Reuters, figurent: «l’industrie pétrolière, la Chine, l’Iran, Israël, le COVID-19, la sécurité domestique, les assurances, les données de localisation, la religion, les véhicules autonomes, les télécommunications et systèmes qui recommandent ou personnalisent le contenu Web. »

Il est clair que bon nombre de ces questions sont en effet délicates, bien que conseiller aux chercheurs de faire attention lorsqu’ils les abordent semble superflu compte tenu de l’existence de comités d’éthique, d’examen par les pairs et d’autres contrôles ordinaires de la recherche. Un chercheur qui s’est entretenu avec Reuters a averti que ce type d’ingérence descendante de Google pourrait bientôt devenir «un grave problème de censure».

Ceci s’ajoute à la question fondamentale de la recherche vitale menée sous les auspices d’une entreprise pour laquelle il peut ou non être dans leur intérêt de publier. Naturellement, de grandes institutions de recherche privées existent depuis presque aussi longtemps que l’effort scientifique organisé, mais des entreprises comme Facebook, Google, Apple, Microsoft et d’autres exercent une énorme influence sur des domaines comme l’IA et ont de bonnes raisons d’éviter de critiquer les technologies lucratives tout en criant leur utilité. de chaque toit.