Il y a deux semaines, le lauréat du prix Turing et scientifique en chef de l’IA sur Facebook, Yann LeCun, a annoncé son «dernier article substantiel» sur Twitter après une série d’échanges souvent amers sur la question des préjugés raciaux et de l’équité dans les systèmes d’apprentissage automatique. Commentaire de LeCun sur l’échec perçu du teint de peau d’un modèle de dépixélisation, « Les systèmes ML sont biaisés lorsque les données sont biaisées », a été le catalyseur des fracas, qui ont attiré des activistes sociaux et des membres de la communauté du machine learning.
Le débat entourant la sortie de LeCun sur Twitter a mis en lumière un sujet pressant dans le développement de systèmes d’apprentissage automatique. Dans le récent article Étendre les limites de l’abstraction de l’apprentissage automatique: une approche systémique complexe pour intégrer le contexte sociétal, une équipe de chercheurs de Google, System Stars et DeepMind soutient que « la recherche sur l’équité du machine learning (ML) a tendance à se concentrer principalement sur les interventions mathématiques sur des algorithmes ou des modèles souvent opaques et / ou leurs entrées et sorties immédiates. De tels modèles mathématiques trop simplifiés font abstraction du contexte sociétal sous-jacent où les modèles ML sont conçus, développés et finalement déployés. » Le premier auteur du document, Donald Martin, Jr., responsable du programme technique chez Google, tweeté, « Comprendre les systèmes sociétaux est plus important que jamais. »
Il n’y a cependant pas de plan pour inclure efficacement le contexte sociétal lors de la conception des systèmes de BC. Dans le but d’élargir la limite d’abstraction du travail sur l’équité en matière de LM pour inclure le contexte social, les chercheurs proposent un modèle taxonomique basé sur CAS (Complex Adaptive Systems) des principaux éléments interactifs du contexte sociétal pour les concepteurs de systèmes ML et les chercheurs fair-ML. Dans les systèmes adaptatifs complexes, les composants interagissent directement ou indirectement les uns avec les autres dans un réseau causal, et il est difficile de prédire le comportement du système uniquement sur la base du comportement des composants, car ils s’adaptent aux changements de l’environnement.
Pour promouvoir des systèmes de ML plus équitables, l’équipe a introduit une formation de théorie causale collaborative qui intègre diverses perspectives de parties prenantes pour découvrir et prendre en compte le contexte sociétal.
Les chercheurs proposent que le processus de développement de produits (PDP) traditionnel, qui implique des bailleurs de fonds, des chefs de produits et des clients potentiels, des propriétaires de produits tels que des concepteurs de systèmes ML, des parties prenantes cibles et des parties prenantes périphériques, soit placé sous le prisme de la formation collaborative de la théorie causale: autres mots, le PDP doit intégrer la capacité de découvrir, comprendre et synthétiser en collaboration les théories causales des principales parties prenantes dans de nouvelles théories causales plus complètes qui reflètent plus précisément la complexité dynamique du contexte sociétal dans lequel le produit basé sur le BC (intervention) sera finalement déployés. «
Le papier Étendre les limites de l’abstraction de l’apprentissage automatique: une approche systémique complexe pour intégrer le contexte sociétal est disponible sur arXiv, et est également le travail de base du document Formulation participative de problèmes pour un apprentissage machine plus équitable grâce à la dynamique des systèmes communautaires.
Journaliste: Fangyu Cai | Éditeur: Michael Sarazen
Rapport synchronisé | Une enquête sur les solutions d’intelligence artificielle de la Chine en réponse à la pandémie de COVID-19 – 87 études de cas de plus de 700 fournisseurs d’IA
Ce rapport montre comment le gouvernement chinois et les propriétaires d’entreprises ont exploité les technologies d’intelligence artificielle dans la bataille contre COVID-19. Il est également disponible sur Kindle d’Amazon.
Cliquez sur ici pour trouver plus de rapports de notre part.
Nous savons que vous ne voulez manquer aucune histoire. Abonnez-vous à notre populaire Synchronisé Global AI Weekly pour obtenir des mises à jour hebdomadaires de l’IA.
