Les députés demandent également aux législateurs européens d’interdire les systèmes de notation sociale et de lutter contre les biais algorithmiques
Les membres du Parlement européen ont voté en faveur de l’interdiction totale de la surveillance biométrique de masse, déclarant que les individus ne devraient être surveillés que s’ils ont été soupçonnés d’un crime, et pas autrement.
Cette victoire potentielle pour la vie privée mettrait fin à la reconnaissance automatisée des personnes dans les espaces publics grâce à leurs caractéristiques biométriques, et les législateurs de l’UE sont également appelés à interdire la police prédictive assistée par IA et l’utilisation de bases de données privées de reconnaissance faciale.
Une ligne dans le sable
La résolution adoptée par les députés européens, qui a été adoptée avec un vote de 377: 248, trace une ligne claire dans le sable en termes de confidentialité publique, et sera discutée plus avant lors des prochaines négociations qui éclaireront les détails les plus fins de la loi sur l’intelligence artificielle.
Exclure les cotes
En plus d’interdire totalement la surveillance biométrique de masse dans les espaces accessibles au public, les députés européens ont également pour mission d’exclure l’utilisation de systèmes de notation sociale – une idée totalement dystopique qui verrait les individus se voir attribuer une note en fonction de leur personnalité ou de leur comportement.
En avril 2021, l’exécutif de l’UE a tenté d’interdire les utilisations à haut risque de la technologie assistée par IA. Alors que cette interdiction aurait également réduit à néant le score social, de nombreux députés européens ont rapidement fait écho au sentiment civil et ont critiqué la législation proposée pour ne pas aller assez loin.
Garder un œil sur nos droits
L’intelligence artificielle n’est plus l’affaire des romans de science-fiction et des thrillers à succès – elle fait partie de notre présent et est déjà utilisée dans (et sur le) public à travers l’Europe, à la grande inquiétude des défenseurs de la vie privée.
De même, les systèmes biométriques sont devenus de plus en plus courants dans notre vie de tous les jours, que nous voyagions, faisions du shopping ou accédions à nos téléphones et à nos bâtiments.
L’un des aspects les plus inquiétants de la technologie assistée par l’IA est son biais algorithmique potentiel. Les députés ont mis en évidence des cas condamnables de systèmes d’identification identifiant plus souvent les personnes de couleur, les personnes LGBTQ+, les femmes et les personnes âgées. De plus, en Allemagne, des systèmes de reconnaissance faciale ont été déployés en dehors des espaces LGBTQ+, des lieux religieux, des cabinets d’avocats et des cabinets de médecins généralistes – et le tout sans raison valable.
Ce ciblage sans tact des groupes marginalisés montre comment l’IA peut être utilisée pour annuler l’expression de soi et maintenir l’oppression sociale, et nous rend généralement beaucoup plus méfiants à vivre notre vie de manière authentique.
En tant que tels, les députés européens sont arrivés à la conclusion que les systèmes alimentés par l’IA doivent toujours être supervisés par un humain – et qu’un opérateur humain doit toujours avoir le dernier mot dans les contextes d’application de la loi. En outre, les députés européens ont également condamné les décisions judiciaires assistées par l’IA et poussé à interdire cette pratique et à réprimer tout parti pris systémique automatique naissant dans un système judiciaire déjà répressif.
Un recul prometteur
Dans l’ensemble, il est encourageant de voir les députés européens prendre une position aussi ferme contre la surveillance biométrique de masse. Certains peuvent soutenir que cette technologie joue un rôle énorme dans l’assistance aux efforts d’application de la loi et rend même notre propre vie beaucoup plus pratique. Ces facteurs, cependant, ne devraient pas justifier les cas où la biométrie est utilisée pour surveiller sans discernement les individus dans les espaces publics ou traiter des innocents comme des suspects sans aucune provocation.
S’ils ne sont ni contrôlés ni contestés, les organismes gouvernementaux, les organismes chargés de l’application des lois et les entreprises privées pourraient utiliser la surveillance biométrique et les systèmes alimentés par l’IA pour réduire la vie privée du public et soutenir une société fondée sur une discrimination injustifiée et automatique – ce qui serait désastreux pour nous tous.
