Google explique comment il protège les avis créés par les utilisateurs sur Google Maps contre la fraude et les abus dans un nouveau article de blog et vidéo d’accompagnement. Comme de nombreuses plates-formes traitant de la modération à grande échelle, Google affirme utiliser un mélange de systèmes d’apprentissage automatique automatisés ainsi que d’opérateurs humains.

Les détails viennent au milieu d’un examen croissant des avis des utilisateurs sur des sites comme Google Maps et Yelp, où les entreprises ont été frappées par de mauvaises critiques pour avoir mis en œuvre des mesures de santé et de sécurité liées au COVID (y compris les exigences en matière de masques et de vaccins) souvent indépendantes de leur volonté. D’autres critiques ont critiqué les entreprises pour les avoir soi-disant amenées à contracter le COVID-19 ou pour ne pas avoir respecté les heures d’ouverture habituelles pendant une pandémie mondiale.

Plus tôt aujourd’hui, Yelp signalé qu’il a supprimé plus de 15 500 avis entre avril et décembre de l’année dernière pour violation de ses Directives de contenu COVID-19une augmentation de 161% par rapport à la même période en 2020. Au total, Yelp affirme avoir supprimé plus de 70 200 avis sur près de 1 300 pages en 2021, dont beaucoup résultent d’incidents dits de « bombardement d’avis » où des avis coordonnés sont soumis par des utilisateurs qui n’ont pas ‘t réellement fréquenté une entreprise.

Google explique que chaque avis publié sur Google Maps est vérifié par son système d’apprentissage automatique, qui a été formé sur les politiques de contenu de l’entreprise pour éliminer les avis abusifs ou trompeurs. Ce système est formé pour vérifier à la fois le contenu des avis individuels, mais il recherche également des modèles plus larges – comme des pics soudains dans les avis une ou cinq étoiles – à la fois du compte lui-même, ainsi que d’autres avis sur l’entreprise.

Google affirme que la modération humaine entre en jeu pour le contenu qui a été signalé par les utilisateurs finaux et les entreprises elles-mêmes. Les avis offensants peuvent être supprimés et, dans les cas les plus graves, les comptes d’utilisateurs peuvent être suspendus et les litiges poursuivis. « Nous avons constaté que nous avons besoin à la fois de la compréhension nuancée offerte par les humains et de l’échelle fournie par les machines pour nous aider à modérer le contenu contribué », écrit Ian Leader, responsable produit de Google pour le contenu généré par les utilisateurs.

C’est un regard intéressant sur les étapes que Google prend pour garder les avis Maps utilisables. Vous pouvez lire plus dans le article de blog complet.