Intelligence artificielle est un travail en cours.

Ou, comme certains les critiques pourraient dire

, une œuvre en régression abjecte qui anéantira la foi restante de l’humanité en elle-même.

Même certaines entreprises de technologie semblent un peu incertaines quant à leurs propres systèmes d’IA. Pourquoi, il n’y a pas si longtemps IBM a annoncé qu’il se retirait complètement de l’activité de reconnaissance faciale.

Nous reviendrons à IBM dans un moment. Vous voyez, je viens de recevoir les résultats de une étude cela laisse beaucoup à considérer.

Réalisée par le groupe Data de la société de marketing Wunderman Thompson, l’étude a examiné si les systèmes d’IA visuelle bien connus regardent les hommes portant des masques EPI de la même manière que les femmes.

Les chercheurs ont pris 256 images de chaque sexe – de qualités différentes et prises à différents endroits – puis ont utilisé des modèles génériques formés par certains des plus grands noms de la technologie: Google Cloud Vision, Microsoft Azure Vision par ordinateur des services cognitifset IBM Reconnaissance visuelle Watson.

Les résultats étaient un peu effrayants.

Bien qu’aucun des systèmes ne soit particulièrement efficace pour repérer les masques, ils étaient deux fois plus susceptibles d’identifier les porteurs de masques masculins que les porteurs de masques féminins.

Alors, que pensaient-ils que les femmes portaient? Eh bien, l’IA de Google a identifié 28% des images comme étant des femmes avec la bouche couverte de ruban adhésif. Dans 8% des cas, l’IA pensait qu’il s’agissait de femmes avec des poils sur le visage. Beaucoup de poils sur le visage, semble-t-il.

Watson d’IBM a poussé les choses un peu plus loin. Dans 23% des cas, il a vu une femme portant un bâillon. Dans 23% des cas, il était sûr qu’il s’agissait d’une femme portant un dispositif de retenue ou des chaînes.

La vision par ordinateur de Microsoft peut également nécessiter un codage un peu plus précis. Il a suggéré que 40% des femmes portaient un accessoire de mode, tandis que 14% portaient du rouge à lèvres.

De tels résultats peuvent amener beaucoup à se demander d’où ces IA tirent leurs idées. Une réponse simple pourrait être «hommes».

Les chercheurs, cependant, ont suggéré que les machines cherchaient l’inspiration dans «un coin plus sombre du Web où les femmes sont perçues comme victimes de violence ou réduites au silence».

Il est difficile de ne pas imaginer que c’est vrai et c’est quelque chose qui a potentiellement des conséquences terribles car nous disparaissons de plus en plus facilement dans l’aisselle odorante de l’IA.

Les chercheurs disent qu’ils n’essaient pas de diaboliser l’IA. (L’IA est assez douée pour le faire par elle-même.)

Au lieu de cela, comme l’a dit le directeur de la science des données de Wunderman Thompson, Ilinca Barsan: «Si nous voulons que nos machines effectuent un travail qui reflète la société de manière précise et responsable, nous devons les aider à comprendre la dynamique sociale dans laquelle nous vivons pour les empêcher de renforcer les inégalités existantes. grâce à l’automatisation et les mettre au travail pour de bon à la place. « 

Voir également: 2084: Que se passe-t-il lorsque l’intelligence artificielle rencontre Big Brother | Peu importe leur sophistication, les systèmes d’IA ont toujours besoin d’une surveillance humaine | Le gros problème de l’IA: les humains paresseux font trop confiance aux algorithmes | Qu’est-ce que l’IA? Tout ce que vous devez savoir sur l’intelligence artificielle

Pourtant, lorsque j’ai demandé aux chercheurs ce qu’ils pensaient du retrait d’IBM du secteur de la reconnaissance faciale, ils ont répondu: « Notre recherche s’est concentrée sur la reconnaissance visuelle des étiquettes plutôt que sur la reconnaissance faciale, mais s’il est aussi facile pour un modèle d’IA (certes général) de confondre quelqu’un portant un masque avec quelqu’un bâillonné ou retenu, puis se retirer d’une entreprise qui est si sujette à une utilisation abusive, à une violation de la vie privée et à un parti pris en matière de formation semble être la bonne (et intelligente) chose à faire pour IBM. « 

L’humanité n’a pas fait un très bon travail pour aider les machines à comprendre les éléments vitaux. L’humanité elle-même, par exemple. En partie parce que les machines n’ont tout simplement pas cet instinct. Et en partie parce que les humains ont du mal à se comprendre.

À quelle fréquence avez-vous été poussé vers des murs à couper le souffle lors de la plus brève rencontre avec l’IA du service client?

Je crains cependant que trop de systèmes d’IA aient déjà été entraînés dans une vision douloureusement biaisée du monde, une vision dont ils ne reviendront peut-être jamais entièrement.

Combien plus d’obscurité cela risque-t-il de se propager?