Au XVe siècle, un fléau insidieux sévit en Europe. Cela menaçait de mettre les gens au chômage, de ruiner leur cerveau et même de les éloigner de Dieu. Ce mal? Selon l’abbé Johannes Trithemius, c’était l’imprimerie.
Maintenant, bien sûr, l’imprimerie et ses nombreux effets sont considérés non seulement comme bons, mais comme fondamentaux pour les sociétés modernes – malgré le fait que l’imprimerie a également été utilisée pour produire le manifeste d’Adolf Hitler «Mein Kampf».
Mais c’est ainsi que nous avons tendance à traiter la technologie: comme une chose souvent ambivalente autour de laquelle nous travaillons pour mettre en évidence le positif et atténuer le négatif. C’est vrai pour tout, des voitures à la télévision en passant par les smartphones.
Y a-t-il, cependant, des technologies si fortement inclinées vers le négatif que nous devrions tout simplement les interdire?
C’est une question qui me préoccupe depuis que la technologie de reconnaissance faciale est passée du concept à la réalité. Il peut être utilisé, par exemple, pour déverrouiller votre téléphone, mais s’étend aux systèmes de caméras et d’intelligence artificielle pour détecter et identifier les personnes de loin. Les systèmes comme ceux de Clearview AI, une entreprise qui peut déployer cette technologie pour capturer et reconnaître des visages à une échelle sociale, sont peut-être les plus importants et les plus inquiétants.
L’entreprise a fait l’objet d’un examen minutieux en février, lorsque le Commissariat à la protection de la vie privée du Canada a annoncé pour la première fois une enquête. Plus tôt ce mois-ci, la société a cessé de proposer son logiciel pour une utilisation ici – y compris les forces de l’ordre – en attendant le verdict du commissaire. Les Canadiens peuvent également demander que toute trace de leur visage soit retirée de la base de données de l’entreprise, même si cela nécessite de soumettre une image de leur visage.
En quoi la reconnaissance faciale est-elle particulièrement préoccupante? Facebook, TikTok et presque toutes les applications sociales que nous utilisons nous suivent et de nombreux détails de nos vies. En outre, il semble qu’il existe des applications potentielles utiles pour la reconnaissance faciale. Imaginez, par exemple, pouvoir localiser un enfant perdu errant dans les rues, ou suivre un tireur armé ou un terroriste. Ce ne sont pas des choses insignifiantes.
Mais ces avantages possibles ne valent pas le risque. Tout d’abord, considérez que les logiciels de reconnaissance faciale sont souvent inexacts. Aux États-Unis, le National Institute of Standards and Technology a constaté que la technologie identifiait souvent mal les gens, en particulier les personnes de couleur. À Detroit, un Noir a été faussement arrêté après une erreur de reconnaissance faciale.
Cette inexactitude n’est pas seulement troublante parce qu’elle se trompe: c’est que les erreurs aggravent déjà les déséquilibres qui existent déjà. Nous vivons un moment où les gens commencent à reconnaître que les services de police et d’application de la loi ont des problèmes structurels et culturels qui les rendent plus susceptibles de cibler les Noirs, les Autochtones et d’autres personnes marginalisées. Si la reconnaissance faciale exacerbe ce genre de préjugés, cela semble une bonne raison de retarder son utilisation – peut-être indéfiniment.
C’est plus que cela, cependant. Comme le fait valoir Birgit Schippers de l’University College Belfast, l’utilisation généralisée de la technologie faciale a un effet dissuasif sur la démocratie. Imaginez si vous ne pouviez pas assister à une manifestation ou à une marche, ou même prendre une bière illicite dans un parc, sans vous demander si votre visage serait capturé et votre identité transmise aux forces de l’ordre.
La reconnaissance faciale fait donc partie d’un changement culturel et technologique plus large qui menace d’enraciner un biais systémique, une culture de surveillance et un risque que de mauvais acteurs piratent la technologie pour la mettre à des fins néfastes. La combinaison de la reconnaissance faciale avec l’omniprésence croissante des capteurs, des caméras haute résolution dans les poches de chacun et de l’intelligence artificielle de plus en plus rapide crée un avenir insidieux et terrifiant dans lequel la vie privée est à jamais menacée et l’État a de plus en plus de pouvoir en sa possession. disposition.
En bref, la reconnaissance faciale ne devrait tout simplement pas être légale. Les risques sont trop grands. Il est vrai que l’idée de refuser la technologie semble opposée à quelque chose de fondamental en nous. D’une part, la technologie n’est pas seulement ambivalente, mais aussi imprévisible: comment les ingénieurs d’Apple qui ont conçu l’iPhone pourraient-ils prédire qu’un jour, Instagram changerait la conception physique des restaurants? Il est presque impossible de prévoir comment la technologie peut être appliquée.
Obtenez plus de St. Catharines Standard dans votre boîte de réception
Ne manquez jamais les dernières nouvelles du St. Catharines Standard. Inscrivez-vous à nos newsletters par e-mail pour recevoir les meilleurs articles de la journée, vos chroniqueurs préférés et bien plus encore dans votre boîte de réception.
Pourtant, le point d’accepter les inconvénients de la technologie vient d’un désir humain plus fondamental: cette idée que la technologie, même ambivalente, existe en fin de compte pour se prémunir contre la brutalité potentielle de la vie. Je suis peut-être opposé aux armes à feu en général, mais pour les gens qui pourraient, par exemple, se retrouver face à face avec un ours polaire, je suis heureux que des armes à feu existent.
Mais peut-être que la technologie de reconnaissance faciale est plus proche des armes nucléaires que des armes à feu: si potentiellement large et sans discrimination de portée qu’il vaut mieux simplement l’interdire que d’essayer de la garder sous contrôle. Oui, la technologie est notre rempart contre la dureté de la vie. Mais il y a une technologie qui est elle-même si brutale, il vaut mieux la refuser – la reconnaître pour le fléau qu’elle est et dire simplement non.
.
