L’organisme de réglementation de l’Internet du Royaume-Uni, Ofcom, a publié un Lettre ouverte aux plateformes de médias sociaux qui s’inquiètent de l’utilisation de leurs outils pour inciter à la violence. Le développement suit jours de violents troubles civils et d’émeutes dans les villes du Royaume-Uni après le meurtre de trois jeunes filles lors d’une attaque au couteau à Southport le 30 juillet.

L’Ofcom a le pouvoir de sanctionner les plateformes vidéo qui ne protègent pas leurs utilisateurs contre les contenus susceptibles d’inciter à la violence ou à la haine. En vertu de la nouvelle loi britannique sur la Sécurité en ligne (OSA), les pouvoirs de l’Ofcom pour faire respecter les normes de modération de contenu en ligne ont été étendus pour couvrir toutes sortes de plateformes, y compris les services de médias sociaux.

Les sanctions en vertu de l’OSA peuvent atteindre jusqu’à 10 % du chiffre d’affaires annuel mondial – donc, sur le papier, la boîte à outils du régulateur contient de nouveaux pouvoirs importants pour réprimer les défaillances graves de la modération de contenu.

Cependant, l’Ofcom est toujours en train de mettre en œuvre le régime. L’application de la loi sur les plateformes de médias sociaux ne devrait pas entrer en vigueur avant 2025, car l’organisme de réglementation continue de mener des consultations sur les directives sur la façon dont les entreprises devraient se conformer.

Le Parlement devra également approuver ces règles avant le début de leur application. À l’heure actuelle, il n’existe aucune voie juridique claire permettant à l’Ofcom d’obliger les entreprises de médias sociaux à s’attaquer aux comportements haineux qui pourraient attiser des troubles sociaux violents.

Néanmoins, ces derniers jours, des appels ont été lancés pour que le calendrier d’application de l’Ofcom soit accéléré à la lumière des troubles civiques et que le régulateur soit plus proactif dans ses relations avec les géants des médias sociaux.

S’adressant à la BBC Radio 4 Programme World at One le mardi, l’ancien ministre Damian Collins a exhorté l’Ofcom à « mettre les entreprises technologiques en garde ».

« Les communications sur les plateformes de médias sociaux qui incitent à la violence, créent une véritable peur que les gens ont d’être victimes d’actes violents, qui incitent à la haine raciale, sont déjà des infractions réglementaires en vertu de la loi », a déclaré Collins à la BBC. « Ce que l’Ofcom doit faire maintenant, c’est mettre les entreprises technologiques en garde pour qu’elles disent qu’elles seront auditées en utilisant les pouvoirs dont dispose l’Ofcom pour examiner ce qu’elles ont fait pour essayer de freiner la propagation de contenus extrémistes et de désinformation liée à ce contenu extrémiste sur leurs plateformes.

“[The tech companies] avoir le pouvoir de le faire… Et ce qui me préoccupe, c’est que ce n’est pas seulement qu’ils ne le font pas, ils amplifient activement ce contenu et aggravent le problème.

L’inquiétude concernant le rôle des plateformes de médias sociaux, y compris X d’Elon Musk (anciennement Twitter), a été déclenchée presque immédiatement par la propagation rapide de la désinformation sur l’identité du mineur responsable du meurtre des trois filles.

Les médias britanniques n’ont d’abord pas été autorisés à rapporter l’identité du suspect que la police avait arrêté parce qu’il avait moins de 18 ans. Un juge a par la suite levé la restriction, désignant l’adolescent comme un citoyen britannique appelé Axel Rudakubana, mais pas avant que le vide d’information n’ait été exploité par des militants d’extrême droite utilisant des plateformes comme X pour diffuser de fausses affirmations selon lesquelles le tueur était un demandeur d’asile musulman.

Les militants ont également utilisé des sites de médias sociaux et des applications de messagerie telles que Telegram pour organiser de nouveaux troubles. Les premiers troubles violents ont eu lieu à Southport le lendemain des meurtres. Depuis lors, les troubles se sont étendus à un certain nombre de villes d’Angleterre et d’Irlande du Nord, avec des incidents tels que des pillages, des incendies criminels et des attaques racistes. Plusieurs policiers ont été blessés dans les affrontements.

Musk s’est personnellement lancé dans la mêlée, s’engageant dans le contenu publié sur X par des influenceurs d’extrême droite déterminés à utiliser la tragédie pour faire avancer un programme politique qui divise. Cela inclut l’utilisateur X Tommy Robinson (également connu sous le nom de Stephen Yaxley-Lennon), dont le récit X réintégré l’année dernière, en soulevant un Interdiction de Twitter en 2018 qui avait été imposée pour avoir enfreint les politiques de conduite haineuse de la plateforme dans des messages ciblant les musulmans.

Dans l’un des propres messages de Musk faisant des remarques sur les troubles au Royaume-Uni, Musk a suggéré «La guerre civile est inévitable.” Dans un autre, Musk a attaqué le Premier ministre britannique Keir Starmer, Insinuant que son gouvernement est responsable de ce qu’on appelle le maintien de l’ordre à deux vitesses, une théorie du complot de droite qui suggère que la police est plus sévère envers la criminalité de droite.

Les ministres ont balayé l’affirmation de Musk et contesté le fait que les troubles publics violents aient été présentés comme des protestations, qualifiant plutôt les individus impliqués de « voyous » qui se livrent à des « actes criminels ».

Le gouvernementL’ORL a également promis d’appliquer toute la force de la loi à toute personne impliquée. Mais il reste encore à savoir comment gérer les grandes plateformes technologiques qui sont utilisées pour diffuser du contenu destiné à attiser la violence et à organiser de nouveaux troubles. Cela inclut spécifiquement X, où le propriétaire d’une plate-forme amplifie lui-même le sifflement de chien.

La lettre publique de l’Ofcom, qui est attribuée à Gill Whitehead, son directeur de groupe pour la sécurité en ligne, représente le niveau d’intervention réglementaire le plus faible possible, en l’absence d’un appel à l’action fort et puissant pour que les plateformes agissent. Il y a seulement une suggestion aux plateformes que « vous pouvez agir maintenant ».

Mais c’est peut-être tout ce que l’Ofcom se sent capable de faire à ce stade.

« Lorsque nous publierons nos codes de pratique et nos lignes directrices finaux, plus tard cette année, les services réglementés auront trois mois pour évaluer le risque de contenu illégal sur leurs plateformes, et seront ensuite tenus de prendre les mesures appropriées pour empêcher qu’il n’apparaisse, et d’agir rapidement pour le supprimer lorsqu’ils en auront connaissance », écrit M. Whitehead. soulignant le manque d’application de la LVMO auquel il est confronté – l’échec de nouvelles mesures prises par le gouvernement pour accélérer le calendrier de mise en œuvre.

« Certains des sites et applications en ligne les plus utilisés devra à terme aller encore plus loin – en appliquant systématiquement leurs conditions d’utilisation, qui incluent souvent l’interdiction de choses comme les discours de haine, l’incitation à la violence et la désinformation nuisible », poursuit la lettre de l’Ofcom, soulignant certaines des obligations à venir auxquelles les entreprises de médias sociaux devront se conformer une fois que l’OSA sera pleinement opérationnelle.

L’organisme de réglementation dis-les autres qu’il s’attend à ce qu’ils s’engagent davantage auprès des entreprises pendant la période de mise en œuvre de l’OSA.

“[W]Nous saluons les approches proactives qui ont été déployées par certains services en ce qui concerne ces actes de violence à travers le Royaume-Uni », ajoute l’Ofcom, terminant par une suggestion selon laquelle les plateformes ne devraient pas attendre que les « nouvelles obligations de sécurité » entrent en vigueur, mais peuvent plutôt « agir maintenant » pour s’assurer que leurs services sont « plus sûrs pour les utilisateurs ».

Mais en l’absence d’un régime pleinement mis en œuvre pour forcer les plateformes à faire le ménage, la lettre de l’Ofcom pourrait être trop facile à ignorer pour certains colporteurs de chaos.