Qu’est-ce qui vient de se passer? L’Union européenne a dévoilé sa dernière initiative réglementaire, une organisation de surveillance conçue pour apporter un nouveau niveau de transparence aux « très grandes » entreprises informatiques et à leurs applications algorithmiques souvent mystérieuses.

Le nouveau Centre européen pour la transparence algorithmique (ECAT) est le premier centre de l’UE axé sur la recherche sur la façon dont les grandes entreprises utilisent (ou abusent) des algorithmes pour amasser leur richesse financière impie. Travailler à l’application des directives Digital Services Act (DSA), ECAT donnera aux experts la possibilité de voir comment fonctionnent les algorithmes et de vérifier si leurs rouages ​​internes enfreignent les dernières réglementations européennes.

Selon la DSA, les plates-formes comptant plus de 45 millions d’utilisateurs sont considérées comme des « très grandes plates-formes en ligne » ou des « très grands moteurs de recherche en ligne ». Ces gigantesques entreprises opérant sur le marché européen sont désormais tenues de procéder à des évaluations annuelles sur la manière dont elles protègent leurs utilisateurs contre les menaces en ligne, les contenus illégaux ou la désinformation.

À compter du 1er janvier 2024, les entreprises seront tenues de fonctionner de manière plus transparente, en détaillant le fonctionnement de leurs algorithmes et la manière dont leurs produits en ligne fournissent aux annonceurs des fonctionnalités de profilage des utilisateurs et de ciblage des annonces. Les responsables de l’ECAT auditeront lesdits algorithmes pour vérifier l’engagement réel de Big Tech en matière de transparence et de protection des utilisateurs.

Le DSA est une réponse au « besoin croissant de dévoiler et de mieux comprendre les technologies qui pilotent les modèles commerciaux des plates-formes », a déclaré l’ECAT. présentation officielle États. La création de l’ECAT permettra à l’Europe d’améliorer son expertise technique dans le domaine de la science des données et des algorithmes. L’ECAT recrute des « experts de haut niveau » pour soutenir les nouvelles tâches réglementaires et vise à devenir la « référence pour la recherche autour de la transparence algorithmique ».

Les systèmes d’IA augmentent en taille et en complexité à un rythme extrêmement accéléré, selon des responsables de l’UE a dit, et la demande de capacités de régulation et de gouvernance de l’IA devient un enjeu crucial. Cependant, la tâche principale de l’ECAT ne sera pas l’IA, car les régulateurs passeront leur temps à sonder les algorithmes qui se cachent derrière les médias sociaux, la recherche en ligne, les boutiques de commerce électronique, etc.

L’ECAT travaillera avec des scientifiques, des experts, des représentants de l’industrie, des universités et des ONG pour « améliorer notre compréhension du fonctionnement des algorithmes », a déclaré l’UE. L’ECAT analysera les entreprises pour la transparence, évaluera les risques et proposera finalement « de nouvelles approches transparentes et les meilleures pratiques ».

Quant au grand éléphant de l’IA dans la salle, l’Europe débat d’un autre effort réglementaire et d’un cadre général connu sous le nom de « Loi sur l’IA ».