Pendant de nombreuses années, le cercle vicieux a tourné: Les sites Web sollicitent des plaintes sordides et non vérifiées concernant des tricheurs présumés, des prédateurs sexuels, des mauvais payeurs et des escrocs. Les gens calomnient leurs ennemis. Les messages anonymes apparaissent en haut des résultats de Google pour les noms des victimes. Ensuite, les sites Web facturent aux victimes des milliers de dollars pour supprimer les messages.

Ce cercle de calomnie a été lucratif pour les sites internet et les intermédiaires associés – et dévastatrice pour les victimes. Maintenant, Google essaie de briser la boucle.

La société prévoit de modifier son algorithme de recherche pour empêcher les sites Web, qui fonctionnent sous des domaines tels que BadGirlReport.date et PredatorsAlert.us, d’apparaître dans la liste des résultats lorsque quelqu’un recherche le nom d’une personne.

Google a également récemment créé un nouveau concept qu’il appelle « victimes connues ». Quand les gens reporte a l’entreprise qu’ils ont été attaqués sur des sites qui facturent la suppression de messages, Google supprimera automatiquement le contenu similaire lorsque leurs noms seront recherchés. Les « victimes connues » incluent également les personnes dont les photos nues ont été publiées en ligne sans leur consentement, ce qui leur permet de demander la suppression des résultats explicites pour leurs noms.

Les changements – certains déjà apportés par Google et d’autres prévus pour les mois à venir – sont une réponse aux récents articles du New York Times documentant comment l’industrie de la calomnie s’attaque aux victimes avec l’aide involontaire de Google.

«Je doute que ce soit une solution parfaite, certainement pas tout de suite. Mais je pense que cela devrait vraiment avoir un impact significatif et positif », a déclaré David Graff, vice-président de Google pour la politique et les normes mondiales et la confiance et la sécurité. « Nous ne pouvons pas surveiller le Web, mais nous pouvons être des citoyens responsables. »

Cela représente un changement capital pour les victimes de diffamation en ligne. Google, qui couvre environ 90 % de la recherche en ligne mondiale, a toujours résisté à ce que le jugement humain joue un rôle dans son moteur de recherche, bien qu’il ait cédé à une pression croissante ces dernières années pour lutter contre la désinformation et les abus apparaissant en haut de ses résultats.

Au début, les fondateurs de Google considéraient son algorithme comme un reflet impartial d’Internet lui-même. Il a utilisé une analyse appelée PageRank, du nom du co-fondateur Larry Page, pour déterminer la valeur d’un site Web en évaluant le nombre d’autres sites liés à celui-ci, ainsi que la qualité de ces autres sites, en fonction du nombre de sites liés à eux.

La philosophie était la suivante : « Nous ne touchons jamais à la recherche, pas du tout comment. Si nous commençons à toucher les résultats de recherche, c’est un cliquet à sens unique vers un Internet organisé et nous ne sommes plus neutres », a déclaré Danielle Citron, professeur de droit à l’Université de Virginie. Il y a dix ans, le professeur Citron pressé Google pour empêcher le soi-disant porno de vengeance d’apparaître dans une recherche du nom de quelqu’un. L’entreprise a d’abord résisté.

Google a exprimé son point de vue non interventionniste dans une déclaration de 2004 pourquoi son moteur de recherche faisait surface sur des sites Web antisémites en réponse aux recherches de « juif ».

« Nos résultats de recherche sont générés de manière totalement objective et sont indépendants des croyances et des préférences de ceux qui travaillent chez Google », a déclaré la société dans un communiqué, qu’elle a supprimé une décennie plus tard. « Les seuls sites que nous omettons sont ceux que nous sommes légalement obligés de supprimer ou ceux qui tentent de manipuler nos résultats de manière malveillante. »

Les premières interventions de Google dans ses résultats de recherche se limitaient à des choses comme spam Web et des films et de la musique piratés, comme l’exigent les lois sur le droit d’auteur, ainsi que des informations financièrement compromettantes, telles que les numéros de sécurité sociale. Ce n’est que récemment que l’entreprise a joué à contrecœur un rôle plus actif dans le nettoyage des résultats de recherche des personnes.

Le cas le plus notable est survenu en 2014, lorsque les tribunaux européens ont établi le «droit à l’oubli.  » Les résidents de l’Union européenne peuvent demander que les informations qu’ils considèrent comme inexactes et non pertinentes les concernant soient supprimées des moteurs de recherche.

Google a combattu en vain la décision de justice. La société a déclaré que son rôle était de rendre les informations existantes accessibles et qu’elle ne voulait pas participer à la réglementation du contenu apparaissant dans les résultats de recherche. Depuis que le droit a été établi, Google a été contraint de supprimer des millions de liens à partir des résultats de recherche de noms de personnes.

Plus de pression pour changer est venue après que Donald J. Trump a été élu président. Après les élections, l’un des meilleurs résultats de recherche Google pour « le nombre de votes pour l’élection finale 2016 » était un lien à un article qui affirmait à tort que M. Trump, vainqueur du Collège électoral, avait également remporté le vote populaire.

Quelques mois plus tard, Google a annoncé une initiative fournir des « mises à jour algorithmiques pour faire apparaître un contenu faisant plus autorité » dans le but d’empêcher que des informations intentionnellement trompeuses, fausses ou offensantes n’apparaissent dans les résultats de recherche.

À cette époque, l’antipathie de Google envers le harcèlement technique à partir de ses résultats a commencé à s’atténuer.

La Wayback Machine’s archiver des politiques de Google sur la suppression d’éléments des résultats de recherche capture l’évolution de l’entreprise. Premièrement, Google était prêt à faire disparaître les photos de nu mises en ligne sans le consentement du sujet. Ensuite, il a commencé à supprimer les informations médicales. Viennent ensuite la fausse pornographie, suivie de sites avec des politiques de « suppression abusive » puis de contenu dit doxxing, que Google a défini comme « exposer des informations de contact avec l’intention de nuire ».

Les formulaires de demande de suppression reçoivent des millions de visites chaque année, selon Google, mais de nombreuses victimes ignorent leur existence. Cela a permis aux « gestionnaires de réputation » et à d’autres de facturer aux personnes la suppression de contenu de leurs résultats qu’elles pouvaient demander gratuitement.

Pandu Nayak, chef de l’équipe de qualité de la recherche de Google, a déclaré que la société avait commencé il y a quelques années à lutter contre les sites Web qui chargent les gens de supprimer le contenu diffamatoire, en réponse à la montée des une industrie florissante qui ont fait surface sur les photos d’identité des gens, puis facturés pour suppression.

Google a commencé à classer ces sites exploiteurs plus bas dans ses résultats, mais le changement n’a pas aidé les personnes qui n’ont pas beaucoup d’informations en ligne. Parce que l’algorithme de Google a horreur du vide, les publications accusant ces personnes d’être des toxicomanes ou des pédophiles pourraient toujours figurer en bonne place dans leurs résultats.

Les sites Web calomniateurs se sont appuyés sur cette fonctionnalité. Ils ne seraient pas en mesure de facturer des milliers de dollars pour supprimer du contenu si les publications ne nuisaient pas à la réputation des gens.

M. Nayak et M. Graff ont déclaré que Google n’était pas au courant de ce problème jusqu’à ce qu’il soit mis en évidence dans les articles du Times cette année. Ils ont déclaré que les modifications apportées à l’algorithme de Google et la création de sa classification « victimes connues » aideraient à résoudre le problème. En particulier, il sera plus difficile pour les sites d’obtenir du succès sur Google via l’une de leurs méthodes préférées : copier et republier du contenu diffamatoire provenant d’autres sites.

Google a récemment testé les changements, les sous-traitants effectuant des comparaisons côte à côte des nouveaux et anciens résultats de recherche.

Le Times avait précédemment compilé une liste de 47 000 personnes dont on a parlé sur les sites de diffamation. Dans une recherche d’une poignée de personnes dont les résultats étaient auparavant jonchés de messages diffamatoires, les changements apportés par Google étaient déjà détectables. Pour certains, les posts avaient disparu de leur première page de résultats et de leurs résultats en image. Pour d’autres, les messages avaient pour la plupart disparu – à l’exception d’un d’un site de diffamation récemment lancé appelé CheaterArchives.com.

CheaterArchives.com peut illustrer les limites des nouvelles protections de Google. Comme il est relativement nouveau, il est peu probable qu’il ait suscité des plaintes de la part des victimes. Ces plaintes sont un moyen pour Google de trouver des sites de diffamation. De plus, CheaterArchives.com n’annonce pas explicitement la suppression des publications en tant que service, ce qui rend potentiellement plus difficile pour les victimes de la supprimer de leurs résultats.

Les dirigeants de Google ont déclaré que la société n’était pas uniquement motivée par la sympathie pour les victimes de calomnies en ligne. Au lieu de cela, cela fait partie des efforts de longue date de Google pour lutter contre les sites qui tentent d’apparaître plus haut dans les résultats des moteurs de recherche qu’ils ne le méritent.

« Ces sites sont, franchement, des jeux de notre système », a déclaré M. Graff.

Pourtant, la décision de Google est susceptible d’ajouter aux questions sur le monopole effectif de l’entreprise sur les informations qui sont et ne sont pas dans le domaine public. En effet, c’est en partie la raison pour laquelle Google a toujours été si réticent à intervenir dans les résultats de recherche individuels.

« Vous devriez pouvoir trouver tout ce qui est légal à trouver », a déclaré Daphne Keller, qui était avocate chez Google de 2004 à 2015, travaillant pendant une partie de l’équipe des produits de recherche, et est maintenant à Stanford pour étudier comment les plates-formes devraient être réglementé. Google, a-t-elle déclaré, « ne fait que fléchir ses propres muscles et décider quelles informations doivent disparaître ».

Mme Keller ne critiquait pas son ancien employeur, mais déplorait plutôt le fait que les législateurs et les autorités chargées de l’application des lois aient largement ignoré l’industrie de la calomnie et ses pratiques d’extorsion, laissant Google nettoyer le désordre.

Que Google puisse potentiellement résoudre ce problème avec un changement de politique et des ajustements à son algorithme est « l’avantage de la centralisation », a déclaré Mme Citron, professeur à l’Université de Virginie, qui a fait valoir que les plateformes technologiques ont plus de pouvoir que les gouvernements pour lutter contre les abus en ligne.

Le professeur Citron a été impressionné par les changements de Google, en particulier la création de la désignation « victimes connues ». Elle a déclaré que de telles victimes sont souvent signalées à plusieurs reprises et que les sites aggravent les dégâts en se raclant les uns les autres.

« J’applaudis leurs efforts », a-t-elle déclaré. « Peuvent-ils faire mieux ? Oui, ils peuvent. »

Aaron Krolik rapports contribués.