Le projet de loi sur la sécurité en ligne est un texte législatif historique qui vise à mettre fin aux dommages causés aux personnes en ligne, allant des tweets racistes au contenu préjudiciable envoyé par de puissants algorithmes.

Le projet de loi révisé, publié jeudi, imposera une obligation de diligence aux entreprises technologiques pour protéger les utilisateurs contre les contenus préjudiciables, sous peine d’amendes importantes de la part du chien de garde des communications.

Le Guardian s’est entretenu avec des personnes qui ont subi le genre de dommages que le projet de loi tente de prévenir et de sanctionner.

Miller est claire sur la motivation de la haine en ligne qu’elle a subie au fil des ans : « C’était un torrent d’abus qui venait du fait que j’étais une femme de couleur. »

La militante pour la transparence affirme que les abus ont commencé en 2015 lorsqu’elle a souligné les inquiétudes concernant les secteurs financier et caritatif. Cela s’est aggravé lorsqu’elle a mené avec succès des procès contre les actions du gouvernement concernant le Brexit.

Elle dit que Facebook et Twitter étaient les pires plateformes pour héberger des messages racistes. « Les messages qui ont été postés allaient de choses comme » Rentre chez toi, sale étranger « à » Cette femme devrait être tuée «  », explique Miller, qui est né en Guyane britannique, aujourd’hui Guyane, de parents d’origine indienne.

Miller se félicite du fait que le projet de loi criminalisera les « empilements » numériques où les victimes sont soumises à des abus en ligne de la part de plusieurs personnes simultanément. Cela garantira également que les grandes plates-formes technologiques accordent la priorité à la lutte contre des types spécifiques de contenus «légaux mais préjudiciables», qui devraient inclure les abus racistes.

Molly, 14 ans, de Harrow, dans le nord-ouest de Londres, a consulté du contenu sur Instagram et d’autres plateformes de médias sociaux liés à l’anxiété, à la dépression, à l’automutilation et au suicide avant de se suicider en novembre 2017.

Son père, Ian, affirme que les plateformes de médias sociaux ont été autorisées à s’autoréguler, une approche de laisser-faire qui a fait défaut à sa famille. « Les médias sociaux ont été autorisés à évoluer de manière autorégulée. Cela ne fonctionne clairement pas, sinon des tragédies comme celle de Molly ne se seraient pas produites.

Ian dit que les médias sociaux ont récemment montré leur « bon côté » avec leur rôle dans la pandémie de coronavirus et le conflit en Ukraine, mais les jeunes ont besoin d’une plus grande protection lorsqu’ils utilisent des plateformes. « Nous avons besoin d’une réglementation pour que lorsque les jeunes utilisent les médias sociaux, ce qu’ils devraient faire, car cela fait un bien énorme, ils soient protégés contre les dommages que cela peut causer. »

La législation, qui s’applique aux entreprises technologiques qui produisent du contenu généré par les utilisateurs ainsi qu’aux moteurs de recherche, obligera les entreprises à mettre en place des systèmes qui repèrent les contenus illégaux, tels que les messages qui promouvoir ou faciliter le suicide. Les plateformes devront également s’assurer que leurs algorithmes, qui organisent ce qu’un utilisateur voit, ne ciblent pas les utilisateurs vulnérables avec un contenu inapproprié.

Les publicités frauduleuses seront incluses dans le champ d’application du projet de loi, ce qui signifie que les plus grandes plateformes de médias sociaux seront tenues d’empêcher l’apparition de publicités frauduleuses payantes sur leurs sites. Cela inclut les publicités portant de fausses mentions de célébrités.

Il sera trop tard pour Jill, une psychothérapeute à la retraite vivant dans le Cambridgeshire. Jill, qui a demandé que son nom de famille ne soit pas divulgué, a perdu plus de 30 000 £ en 2020 après avoir cliqué sur une publicité sur Facebook pour un investissement en crypto-monnaie portant une fausse « approbation » de la star de Dragons ‘Den Deborah Meaden.

« C’est terriblement affligeant et tout a commencé avec une petite publicité sur Facebook. Ils doivent surveiller ces publicités », dit-elle. « Cela a affecté ma famille parce qu’ils étaient très bouleversés et en colère. Cela a jeté un nuage sur nous pendant quelques années.

Meaden a déclaré dans une déclaration sur son site Web qu’elle n’avait aucune association avec – ou fait des investissements dans – les plateformes de trading de bitcoins. « J’ai pris des mesures pour faire supprimer le matériel non autorisé et je prends les mesures appropriées contre les personnes et/ou les entreprises qui ont décidé d’arnaquer les gens de cette manière », a-t-elle écrit.

Scott dit qu’elle a rencontré du contenu en ligne à l’adolescence qui a encouragé son trouble de l’alimentation, y compris des personnes publiant des idées de régimes extrêmes.

« Dès l’âge de 14 à 18 ans, j’accédais à de nombreux contenus préjudiciables sur Tumblr et Instagram. Ce contenu était souvent qualifié de contenu pro-anorexie, qui était essentiellement une communauté de personnes s’encourageant mutuellement à adopter des comportements dangereux », explique Scott, de Reading. « Voir ce contenu en ligne m’a fait me sentir moins conscient de la dangerosité de mon comportement. C’était comme une manifestation externe du trouble qui était déjà dans ma tête.

Scott dit qu’il doit y avoir un effort dédié pour empêcher que ce contenu soit si largement accessible. Elle dit qu’un contenu similaire existe toujours sur les plateformes de médias sociaux telles que TikTok et Instagram. « Il faut faire plus que simplement fermer et signaler les comptes qui favorisent les troubles de l’alimentation. Les comptes doivent être identifiés plus tôt, en mettant davantage l’accent sur le suivi des nouveaux hashtags ou des espaces en développement.

La liste des contenus légaux mais préjudiciables auxquels le gouvernement s’attend à ce que les entreprises technologiques s’attaquent sera établie dans la législation secondaire. Mais le communiqué de presse accompagnant le projet de loi révisé indique que les contenus relatifs à l’automutilation et aux troubles alimentaires feront partie des domaines couverts.

Frida dit que les plateformes de médias sociaux l’ont laissée vulnérable à la toilette en ligne à 13 ans, après qu’un homme d’une trentaine d’années l’ait contactée sur Facebook. La relation en ligne qui en a résulté a duré des années, une expérience qui a laissé Frida dans une dépression à long terme.

« À l’époque, j’étais vraiment misérable à l’école. J’étais victime d’intimidation et je n’avais pas vraiment d’amis, donc je n’avais rien à perdre », explique Frida, dont le nom a été changé.

Elle dit qu’il y avait peu de règles de protection sur Facebook pour la protéger des abus. « Il y avait des risques accrus avec des choses comme le cryptage de bout en bout, par exemple, ou le fait que mon agresseur a pu si facilement m’ajouter et m’envoyer un message, et le risque multiplateforme. » Elle dit que le contact initial sur Facebook est rapidement passé à la messagerie sur WhatsApp – qui est cryptée, ce qui signifie que les messages ne peuvent être consultés que par l’expéditeur et le destinataire.

« Une grande partie de ce avec quoi j’ai interagi sur Facebook m’a laissé en danger », déclare Frida, qui a fait campagne avec le NSPCC, l’organisme de bienfaisance pour la protection de l’enfance, pour renforcer le projet de loi. « Ce que j’aimerais voir dans ce projet de loi sur la sécurité en ligne, c’est davantage l’accent sur le risque et sur ce qui augmente le risque. J’aimerais voir une culture de la sécurité dès la conception mise en œuvre sur des applications comme Facebook. »

Le devoir de diligence du projet de loi est divisé en plusieurs parties, y compris l’obligation de protéger les enfants contre les activités illégales telles que le toilettage. Les entreprises technologiques devront effectuer des évaluations des risques détaillant comment les abus pourraient se produire sur leurs plateformes et comment les prévenir. Ces évaluations des risques seront supervisées par Ofcom, le chien de garde des communications, qui a été chargé de mettre en œuvre la législation.