Les défenseurs de la vie privée de toute l’Europe ont appelé à une interdiction totale de la reconnaissance faciale pour la surveillance de masse en raison de préoccupations relatives aux droits de l’homme.
Signée par plus de 55 groupes de défense des droits travaillant sur le continent, leur lettre ouverte s’appuie sur les appels précédents à des restrictions plus strictes sur la technologie biométrique.
Pourquoi la lettre a-t-elle été envoyée?
le lettre ouverte signée par ces groupes de défense est adressée à Didier Reynders, le commissaire européen à la justice, avant les nouvelles propositions d’IA qui devraient être dévoilées par les dirigeants du bloc le 21 avril.
Cette lettre s’appuie sur une autre lettre ouverte envoyée en janvier dernier qui appelait à ce que plusieurs « lignes rouges » soient tracées dans le sable en ce qui concerne les propositions d’IA, ainsi qu’une autre signée par 116 députés européens exprimant leur désir de voir cette technologie réglementée qui était rendu public ce mois-ci.
Une pression supplémentaire vient des plus de 43 500 citoyens européens qui appellent à l’interdiction de la reconnaissance faciale par le biais de l’initiative citoyenne européenne.
Que dit la lettre?
Dans la lettre, l’EDRi soutient que la législation actuelle est insuffisante pour protéger les droits et libertés fondamentaux des citoyens en relation avec l’IA.
Actuellement, les réglementations entourant le traitement des données biométriques font partie de la loi GDPR. Mais le groupe affirme que cela n’est pas appliqué de manière rigide et qu’il n’a pas non plus bien résisté aux demandes d’exemption, qui sont utilisées par des entités privées pour contourner la loi.
La première demande de l’EDRi est donc une interdiction légale qui s’appuie sur les interdictions existantes du RGPD, qui s’est avérée un cadre qui fuit en ce qui concerne l’IA prête à être exploitée par les États membres de l’UE avec des objectifs de surveillance rampants.
Le groupe demande un « instrument juridique européen spécifique » pour garantir que la technologie de reconnaissance faciale et les autres outils utilisés pour la surveillance de masse ne sont pas du tout déployés. L’interdiction, disent-ils, devrait être « sans exception ».
L’EDRi demande également que les groupes marginalisés et sous-représentés soient pris en compte lors de l’élaboration de la législation.
Quelle est la position de l’UE?
L’UE a semblé faire connaître sa position sur ce type de technologie l’année dernière en publiant un livre blanc qui semblait indiquer que le bloc envisageait d’interdire complètement la technologie de reconnaissance faciale.
Mais la technologie biométrique – en particulier la technologie de reconnaissance faciale – est déjà utilisé dans un certain nombre de pays de l’UE.
Le mois dernier, Politico a rapporté que Didier Reynders avait révélé que la commission envisageait déjà de restreindre considérablement l’utilisation de la technologie d’IA à haut risque dans les lieux publics – mais avec certaines attentes.
Il a alors semblé suggérer que ces «exceptions» – qui incluent des choses comme les attentats terroristes, où le temps presse – se produisent rarement, et que le reste de la législation constitue essentiellement une véritable interdiction.
Comment EDRi a-t-il répondu?
Le chef de la politique d’EDRi, Diego Naranjo, a déclaré peu de temps après la déclaration de Reynders qu’il était « déçu que la Commission européenne continue d’affirmer que le cadre juridique européen existant pour la biométrie est suffisant pour protéger les gens contre la reconnaissance faciale publique intrusive et discriminatoire ».
Il a poursuivi: « malgré la déclaration inquiétante du commissaire à la justice selon laquelle il considère les droits fondamentaux comme quelque chose à équilibrer avec la promotion du développement technologique, nous réitérons que les entreprises européennes peuvent innover sans porter atteinte aux droits et libertés des personnes ».
Après la publication de la lettre la plus récente, davantage de membres de l’EDRi ont saisi la presse pour souligner l’opportunité dont l’UE dispose pour montrer la voie:
Nous sommes à un point de basculement important où nous pourrions en fait empêcher de nombreux futurs préjudices et pratiques technologiques autoritaires avant qu’ils n’aillent plus loin. Nous n’avons pas à attendre des impacts énormes et perturbateurs sur la vie des gens avant de l’arrêter. C’est une opportunité incroyable pour la société civile d’intervenir, à un moment où nous pouvons encore changer les choses
Point de basculement
L’EDRi a raison – nous sommes à un point de basculement dans le développement de l’intelligence artificielle où nous pourrions encore édicter des règles et des règlements pour protéger les libertés fondamentales de ceux sur lesquels la technologie est utilisée ou appliquée.
Le rattrapage réglementaire avec des choses comme les médias sociaux a déjà causé suffisamment de problèmes aux organes législatifs du monde entier, et l’IA évolue sans doute à un rythme beaucoup plus rapide. Il est déjà essayé, testé et déployé à la fois à l’intérieur et à l’extérieur de l’UE.
Si elle n’est pas réglementée, le spectre des effets négatifs que cette technologie pourrait finir par avoir est incroyablement large. Une interdiction plus large et plus profonde annulerait de nombreuses activités nuisibles avant qu’il ne soit trop tard.
