Il y a presque exactement un an, Timnit Gebru, l’un des leaders de l’équipe d’éthique de l’IA de Google et l’un des plus grands experts en la matière, a été licenciée après avoir envoyé un e-mail préoccupant à son équipe. Maintenant, elle s’est installée dans un tout nouvel institut de recherche, DAIR, axé sur les sujets qui, selon elle, étaient mis à l’écart chez Google.

L’Institut de recherche en intelligence artificielle distribuée est « un institut indépendant et enraciné dans la communauté, destiné à contrer l’influence omniprésente des Big Tech sur la recherche, le développement et le déploiement de l’IA », selon son communiqué de presse d’annonce.

Construit dès le départ pour inclure et mettre l’accent sur diverses perspectives et remettre en question les processus utilisés dans des entreprises comme Google, Amazon et Facebook/Meta, DAIR sera financé de manière indépendante. L’accent sera mis sur la publication d’articles dans le domaine universitaire, mais sans la pression incessante du monde universitaire traditionnel ou l’ingérence paternaliste d’une entreprise mondiale qui pèse sur les chercheurs.

« J’ai été frustré pendant longtemps par les structures d’incitation que nous avons en place et par le fait qu’aucune d’entre elles ne semble être appropriée pour le type de travail que je veux faire », Gebru a déclaré au Washington Post.

Jusqu’à présent, l’institut a levé 3,7 millions de dollars auprès de la Ford Foundation, de la MacArthur Foundation, du Kapor Center et de l’Open Society Foundation. Cela devrait suffire pour commencer – et bien payer ses chercheurs, garantissant que ce type de travail est une alternative réaliste au travail dans l’une des sociétés aux poches profondes qui financent fréquemment la recherche sur l’IA.

J’ai demandé à Gebru, que nous avons eu sur scène pour parler de ces mêmes sujets, pour plus d’informations sur les méthodes et les orientations de DAIR pour les recherches futures et mettra à jour ce message si j’ai des nouvelles. Mais deux personnes donnent une idée de ce à quoi on peut s’attendre.

Safiya Noble, auteur de « Algorithms of Oppression » et récipiendaire de la bourse Macarthur Genius, fera partie du comité consultatif de DAIR ; nous l’avons récemment accueillie pour un panel lors des sessions TC : Justice où elle a parlé du danger de considérer les technologies comme neutres ou précieuses alors qu’elles deviennent largement utilisées et « banales », alors qu’en fait c’est exactement le moment où elles devraient faire l’objet d’un examen plus approfondi.

Et Raesetje Sefala est le premier chercheur de DAIR ; Les recherches récentes de Sefala portent sur ségrégation géographique et économique en Afrique du Sud, quantifiée par imagerie satellitaire.

« L’IA doit être ramenée sur terre. Il a été élevé à un niveau surhumain qui nous porte à croire qu’il est à la fois inévitable et indépendant de notre volonté », a déclaré Gebru dans l’annonce. « Lorsque la recherche, le développement et le déploiement de l’IA sont ancrés dans les personnes et les communautés dès le départ, nous pouvons faire face à ces méfaits et créer un avenir qui valorise l’équité et l’humanité. »