• Les femmes et les filles font face à un nouveau traumatisme en essayant de supprimer le contenu explicite d’Internet
• Le système de signalement inadéquat de Google ne parvient pas à fournir des réponses rapides et transparentes

Des victimes d’abus sexuels en ligne en Corée du Sud ont déclaré à Amnesty International que leurs souffrances avaient été aggravées par la lenteur et l’alambiquement du système de Google pour traiter les demandes de retrait de contenu.

Les femmes et les filles ciblées par des crimes sexuels numériques ont déclaré que le processus de signalement de contenu explicite non consensuel sur Google était si difficile à naviguer que les vidéos d’abus sexuels ont fini par proliférer en ligne.

« Alors qu’une vague de crimes sexuels numériques en Corée du Sud cause de graves préjudices aux femmes et aux jeunes filles qui ont été ciblées, le système inadéquat de Google pour signaler les contenus explicites non consensuels aggrave encore la situation, a déclaré Jihyun Yoon, directeur d’Amnesty International Corée.

« Google doit faire davantage pour empêcher la propagation de la violence sexiste en ligne, non seulement en Corée, mais partout ailleurs. Les survivants du monde entier sont obligés d’utiliser ce même système de signalement défectueux lorsqu’ils tentent de faire supprimer du contenu préjudiciable, il est donc fort probable que ce problème s’étende bien au-delà de la Corée.

Amnesty International a lancé aujourd’hui une pétition mondiale demandant à Google de remédier aux failles de son système de signalement.

Les crimes sexuels numériques augmentent malgré l’affaire « Nith Room »

En mars 2020, un groupe de journalistes sud-coréens a révélé l’existence de huit forums de discussion secrets sur l’application de messagerie Telegram où des milliers de vidéos de femmes et de filles contenant un contenu sexuel explicite et non consensuel étaient vendues en utilisant de la crypto-monnaie sans leur consentement. La police coréenne a déclaré que plus de 60 000 personnes avaient participé aux crimes en entrant dans ces salles, collectivement connues sous le nom d’affaire de la « Nième pièce ».

En octobre 2021, l’un des opérateurs de chat de la « Nième Chambre » a été condamné à 42 ans de prison. Cependant, les crimes sexuels numériques se poursuivent, et ce qui les distingue des autres cas de violence sexuelle, c’est le préjudice supplémentaire causé par la facilité du partage et de la distribution répétés.

Affaires pénales récentes montrer que les agresseurs menacent habituellement les survivantes avec du contenu vidéo existant pour les forcer à produire plus de contenu sexuellement abusif.  Cela montre qu’à moins que le contenu non consensuel et les informations personnelles des survivantes ne soient supprimés, les femmes et les filles sont soumises à d’autres préjudices ou crimes, même lorsque les auteurs initiaux sont punis.

« La suppression des contenus explicites non consensuels diffusés en ligne est essentielle pour rétablir la vie quotidienne des survivants. Ces femmes n’ont pas d’autre choix que de faire confiance aux demandes de suppression adressées aux entreprises technologiques, malgré le processus douloureux consistant à rechercher et à collecter à plusieurs reprises le contenu explicite non consensuel dans lequel elles figurent », a déclaré Jihyun Yoon.

« Lorsque ces demandes ne sont pas traitées rapidement et que le contenu abusif peut être redistribué à tout moment, les victimes sont exposées à des préjudices physiques et mentaux prolongés. »

Le mauvais fonctionnement du système de signalement de Google

Google affirme que le contenu explicite non consensuel peut être supprimé sur demande. Cependant, les victimes et les militants qui se sont entretenus avec Amnesty International Corée ont déclaré que les catégories et les procédures de signalement de Google étaient déroutantes et difficiles à suivre. Les formulaires appropriés étaient difficiles à trouver et contenaient des catégories ambiguës sur le type de contenu signalé.

Une fois qu’une plainte a finalement été déposée avec succès, les utilisateurs ont été confrontés à un manque de communication sur l’état d’avancement de leur réclamation – souvent pendant des mois.

Google a beaucoup d’avantages – vous pouvez facilement obtenir les informations que vous voulez. Mais pour les victimes, Google n’est rien de plus qu’un énorme site de distribution. C’est le pire site Web en termes de victimisation secondaire.

Survivant Hyun-jin

Amnesty International Corée a mené une enquête auprès de 25 victimes et militants, et les 11 personnes qui ont porté plainte via Google ont déclaré qu’il était difficile de confirmer si leurs demandes avaient été correctement traitées. Cela était principalement dû à un manque de communication de Google pendant le processus de signalement.

La survivante *Hyun-jin a attendu un peu plus d’un an entre la réception d’un reçu de confirmation de Google et l’information finale du résultat d’une série de demandes de suppression qu’elle avait envoyées.

Google a également semblé ne pas tenir compte du traumatisme des survivants lors de l’élaboration de ses procédures de retrait. Lorsqu’ils signalent du contenu, les utilisateurs doivent cocher une case indiquant qu’ils reconnaissent qu’ils peuvent être punis si la soumission n’est pas vraie, tandis que Google déclare qu’il ne traitera pas les plaintes incomplètes.

Hyun-jin a déclaré que ces directives augmentaient son anxiété : « Je l’ai soumise avec difficulté, mais plutôt que d’être convaincue qu’elle serait supprimée, je suis devenue plus anxieuse parce que je pensais que si cela ne fonctionnait pas, ce serait ma responsabilité. »

Depuis, elle a préparé un document de 600 mots Réponse du modèle expliquant en détail pourquoi le contenu est illégal, et elle l’a partagé avec d’autres survivants pour les aider à faire des demandes de suppression.

L’un des formulaires de signalement fournis par Google exige également qu’une « pièce d’identité avec photo » soit jointe lors de la soumission d’un signalement, ne tenant pas compte du fait que les victimes qui ont eu du matériel explicite distribué sans leur consentement craignent de partager leur image en ligne.

« Demander aux survivants de publier des pièces d’identité avec photo en ligne, où circulent des vidéos de victimes, est tout simplement traumatisant », a déclaré Dan du groupe militant Team Flame.

Google « le pire site en termes de victimisation secondaire »

Amnesty International s’est entretenue avec quatre victimes de violences liées au genre en ligne ainsi qu’avec six militants qui les soutiennent. Tous les survivants ont signalé des dommages à leur santé physique et mentale, y compris la nécessité de s’isoler de la société pour éviter la stigmatisation.

Alors que les abus sexuels et leur diffusion en ligne causaient déjà un préjudice immense à ces survivants, cela a été exacerbé lorsqu’ils ont été confrontés au processus lent et déroutant d’essayer de supprimer le contenu d’Internet.

« C’était si facile [for the perpetrator] pour télécharger une vidéo, mais il a fallu des mois pour la faire supprimer », a déclaré Hyun-jin, une survivante, à Amnesty International.

Elle s’était rendue à la police après qu’une vidéo non consensuelle d’elle, contenant du contenu sexuellement explicite, ait été diffusée en ligne. Elle a supposé à tort que la vidéo serait bientôt supprimée.

« Quand vous êtes victime de cette situation, vous ne savez pas quoi faire. Je regardais mon téléphone et je cherchais mon nom sur Google toute la journée. Je pouvais à peine dormir une heure par jour, passant la plupart de mon temps à chercher. J’avais des cauchemars constants, mais la réalité elle-même était plus un cauchemar.

« Pour supprimer des vidéos, des images et des mots-clés de recherche, j’ai dû prendre des centaines de captures d’écran et les signaler à Google. Je ne pouvais pas demander à quelqu’un d’autre de faire tout cela pour moi parce que je devais joindre ces images nuisibles me représentant lorsque je les signalais. J’ai dû y faire face toute seule.

« Google présente de nombreux avantages : vous pouvez facilement obtenir les informations que vous voulez. Mais pour les victimes, Google n’est rien de plus qu’un énorme site de distribution. C’est le pire site Web en termes de victimisation secondaire. L’autre jour, j’ai vérifié les URL avec le contenu distribué, et [the search results] comptaient plus de 30 pages. Ils n’ont même pas été facilement enlevés sur demande. [Yet] Je ne peux pas m’empêcher de continuer à faire des demandes de suppression. »

Responsabilité des entreprises de technologie de prévenir les dommages causés à leurs services

Le système de signalement inadéquat de Google est difficile à naviguer, incohérent et difficile à suivre, ce qui entraîne l’incapacité de fournir des réponses rapides et transparentes aux survivants.

La responsabilité de toutes les entreprises de respecter les droits de l’homme a été bien articulée dans les Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l’homme, qui stipulent que toutes les entreprises sont tenues d’éviter de causer ou de contribuer à des impacts négatifs sur les droits de l’homme par leurs propres activités, et de remédier à ces impacts lorsqu’ils se produisent.

La propre politique de Google en matière de droits de l’homme stipule son engagement à « respecter les normes établies dans la Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l’homme« .

« En répondant de manière incohérente et lente aux demandes de suppression des victimes de crimes sexuels numériques, Google ne respecte pas les droits humains. Il doit adopter un système de signalement centré sur les survivantes qui empêche les nouveaux traumatismes et qui soit facile d’accès, de navigation et de contrôle », a déclaré Jihyun Yoon.

« Google doit veiller à ce que la violence sexiste en ligne ne se produise pas sur ses services. Les survivants de crimes numériques doivent être aidés par les mécanismes de signalement de Google, plutôt que de voir leurs souffrances prolongées inutilement par eux.

Amnesty International a écrit à Google le 11 novembre pour lui demander de répondre à ses conclusions. Google n’a pas fourni de réponse officielle, mais a déclaré lors d’une réunion privée que cette question est importante et que l’entreprise souhaite améliorer la façon dont elle y répond.

*L’identité réelle de tous les survivants a été protégée à leur demande.