Twitch, le service de diffusion en direct qui s’adresse en grande partie aux joueurs, a explosé en popularité depuis son acquisition par Amazon en 2014, mais toxicité sur la plate-forme a également augmenté. Cette semaine, Twitch a fait un pas important vers la maîtrise de sa fonction de « chat » semblable à des applaudissements, et elle va au-delà de l’approche habituelle basée sur le dictionnaire consistant à signaler un langage inapproprié ou abusif.

Le Déploiement mardi d’un nouveau drapeau « d’évasion d’interdiction » est venu avec une quantité surprenante de fanfare, et cela met Twitch en position de faire ce que beaucoup d’autres plates-formes ne feront pas. La société ne prête pas seulement attention à la génération de comptes « sockpuppet »; il s’engage à l’écraser.

Lancer des attaques

Presque toutes les plates-formes en ligne modernes sont confrontées au même problème: les utilisateurs peuvent rejoindre, afficher et commenter du contenu avec un peu plus qu’une adresse e-mail. Si vous voulez dire des choses méchantes sur Ars Technica sur Internet, par exemple, vous pouvez créer une tonne de nouveaux comptes sur divers sites en quelques minutes. Votre véritable mini-mob anti-Ars ne nécessite guère plus qu’une série d’adresses e-mail gratuites. Si un service nécessite une forme d’authentification à deux facteurs, vous pouvez simplement attacher des périphériques physiques de rechange ou créer des numéros de téléphone supplémentaires.

En termes moins hypothétiques, les créateurs de Twitch ont fait face à ce problème de « foule haineuse » depuis un certain temps maintenant, le problème atteignant un pic d’intensité après Twitch. ajout d’une catégorie « LGBTQIA+ ». Les utilisateurs abusifs ont chargé des lasers hyperconcentrés de discours haineux, généralement dirigés vers des créateurs plus petits qui pouvaient être découverts dans le répertoire de catégories de Twitch. Comme J’ai expliqué en septembre:

Alors que Twitch inclut des outils intégrés pour bloquer ou signaler les messages qui déclenchent un dictionnaire plein de termes vulgaires et haineux, bon nombre des plus grands auteurs de haine se sont tournés vers leurs propres outils de peignage de dictionnaire.

Ces outils permettent aux auteurs d’échapper aux outils de modération de base parce qu’ils construisent des mots en utilisant des caractères non latins – et peuvent générer des milliers de fac-similés d’insultes notoires en mélangeant et en faisant correspondre les caractères, regardant ainsi assez près du mot original. Leur pouvoir de haine et de sectarisme explose grâce au contexte qui transforme des mots innocents en insultes ciblées, en fonction du groupe marginalisé auquel ils s’adressent.

Combattre ces attaques au niveau de l’analyse du dictionnaire n’est cependant pas si coupé et séché. Comme tout utilisateur de médias sociaux vous le dira, le contexte est important, en particulier à mesure que le langage évolue et que les harceleurs et les agresseurs cooptent des phrases apparemment innocentes pour cibler et calomnier les communautés marginalisées.

Soupçons côté serveur

Le drapeau de l’évasion de l’interdiction de Twitch adopte une approche différente. Il utilise les informations côté serveur de Twitch sur la génération de compte pour déterminer si un compte nouvellement généré semble provenir d’une personne qui a enfreint les conditions d’utilisation du site et a ensuite créé un autre compte. Si le compte est signalé, l’utilisateur en question ne remarquera rien de différent, mais les streamers et leurs modérateurs verront les messages de cet utilisateur atterrir dans un silo de modération spécial « évasion d’interdiction ». Cette pratique est généralement connue sous le nom de « shadowbanning » car les messages semblent fonctionner très bien pour la personne interdite, mais personne d’autre dans le flux de chat ne les voit.

Si le compte a été modéré par erreur ou si le streamer ne voit aucun problème avec les messages de l’utilisateur marqué, l’utilisateur marqué peut être débanni et ramené dans le chat public. Sinon, la chaîne peut soit donner un coup de pied / bannir l’utilisateur signalé, soit laisser le compte fantôme. (Twitch propose également une version plus douce de ce drapeau qui laisse les capacités de chat de l’utilisateur intactes, mais donne aux modérateurs un avertissement qu’un compte semble suspect.)

Cette décision semble faire la différence entre fermer immédiatement les comptes suspects et les laisser errer librement et sans contrôle à travers les collines et les vallées de Twitch. Et il s’ensuit une nouvelle bascule optionnelle, qui a été lancé fin septembre, pour des chaînes individuelles. Les hôtes peuvent choisir de restreindre les fonctionnalités de chat aux utilisateurs qui ont vérifié leur numéro de téléphone et / ou qui sont en ligne sur Twitch depuis un certain temps.

Twitch admet essentiellement quelque chose que les sites de médias sociaux obsédés par « l’engagement » répugnent à affronter: de faux comptes existent et ils peuvent empoisonner whaineux plates-formes sur lesquels ils sont créés. Cette idée a tendance à aller à l’encontre des mesures que les opérateurs de sites aiment montrer lorsqu’ils recherchent des partenaires publicitaires; Les sites de médias sociaux préfèrent ne pas ajouter d’astérisques au nombre d’« utilisateurs actifs mensuels » lors de la détermination des tarifs publicitaires.