La décision de Google de bloquer Le lancement de l’application Truth Social sur le Play Store sur des problèmes de modération de contenu soulève la question de savoir pourquoi Apple n’a pas pris des mesures similaires sur la version iOS de l’application qui est en ligne sur l’App Store depuis février. D’après un rapport d’Axios, Google a trouvé de nombreux messages qui violaient ses règles de contenu Play Store, bloquant le chemin de l’application pour être mis en ligne sur sa plate-forme. Mais certains de ces mêmes types de messages semblent être disponibles sur l’application iOS, a constaté TechCrunch.

Cela pourrait déclencher une révision de l’application iOS de Truth Social à un moment donné, car les politiques d’Apple et de Google sont largement alignées sur la façon dont les applications avec du contenu généré par les utilisateurs doivent modérer leur contenu.

Axios a signalé pour la première fois cette semaine La décision de Google de bloquer la distribution de l’application Truth Social sur sa plate-forme, à la suite une entrevue donné par le PDG de l’application, Devin Nunes. L’ancien membre du Congrès et membre de l’équipe de transition de Trump, aujourd’hui PDG des médias sociaux, a suggéré que le retard avec la sortie Android de l’application était du côté de Google, en disant: « Nous attendons qu’ils nous approuvent, et je ne sais pas ce qui prend si longtemps. »

Mais c’était une mauvaise caractérisation de la situation, a déclaré Google. Après avoir examiné la dernière soumission de Truth Social sur le Play Store, Google a constaté de multiples violations de la politique, dont il a informé Truth Social le 19 août. Google a également informé Truth Social de la façon dont ces problèmes pourraient être résolus afin d’entrer dans le Play Store, a noté la société.

« La semaine dernière, Truth Social a répondu en reconnaissant nos commentaires et en disant qu’ils travaillaient à résoudre ces problèmes », a déclaré un porte-parole de Google dans un déclaration. Cette communication entre les parties était une semaine avant l’interview de Nunes où il a laissé entendre que la balle était maintenant dans le camp de Google. (Le sous-texte de ses commentaires, bien sûr, était que les médias conservateurs étaient à nouveau censurés par Big Tech.)

Le problème qui se pose ici provient de l’accord de Google. stratégie pour les applications qui comportent du contenu généré par l’utilisateur, ou UGC. Selon cette politique, les applications de cette nature doivent être mises en œuvre « modération UGC robuste, efficace et continue, comme il est raisonnable et cohérent avec le type d’UGC hébergé par l’application. » La modération de Truth Social, cependant, n’est pas robuste. La société l’a déclaré publiquement s’appuie sur un système automatisé de modération de l’IA, Hive, qui est utilisé pour détecter et censurer le contenu qui enfreint ses propres politiques. Sur son site Web, Truth Social note que les modérateurs humains « supervisent » le processus de modération, suggérant qu’il utilise un mélange standard de l’industrie de l’IA et de la modération humaine. (À noter, la société d’intelligence de l’App Store Apptopie a déclaré à TechCrunch que l’application mobile Truth Social n’utilise pas l’IA Hive. Mais il dit que l’implémentation pourrait être côté serveur, ce qui dépasserait la portée de ce qu’il peut voir.)

L’utilisation par Truth Social de la modération alimentée par l’IA ne signifie pas nécessairement que le système est suffisant pour le mettre en conformité avec les propres politiques de Google. La qualité des systèmes de détection de l’IA varie, et ces systèmes appliquent en fin de compte un ensemble de règles qu’une entreprise décide elle-même de mettre en œuvre. Selon Google, plusieurs messages de Truth Social qu’il a rencontrés contenaient des menaces physiques et des incitations à la violence . zones interdites par la politique du Play Store.

Crédits d’image: Liste Play Store de Truth Social

Nous comprenons que Google a spécifiquement pointé vers la langue dans son Stratégie relative au contenu généré par l’utilisateur et Politique relative au contenu inapproprié lorsqu’il prend sa décision sur la Vérité Sociale. Ces politiques comprennent les exigences suivantes :

Les applications qui contiennent ou comportent un UGC doivent :

• Exigez que les utilisateurs acceptent les conditions d’utilisation et/ou la stratégie utilisateur de l’application avant de pouvoir créer ou télécharger un CGU.

• Définissez le contenu et les comportements répréhensibles (d’une manière conforme aux politiques du programme pour développeurs de Play) et interdisez-les dans les conditions d’utilisation de l’application ou les politiques utilisateur.

• Mettre en œuvre une modération UGC robuste, efficace et continue, comme il est raisonnable et cohérent avec le type d’UGC hébergé par l’application.

Et:

• Discours de haine – Nous n’autorisons pas les applications qui encouragent la violence ou incitent à la haine contre des individus ou des groupes en fonction de la race ou de l’origine ethnique, de la religion, du handicap, de l’âge, de la nationalité, du statut d’ancien combattant, de l’orientation sexuelle, du genre, de l’identité de genre, de la caste, du statut d’immigration ou de toute autre caractéristique associée. avec discrimination systémique ou marginalisation.

• Violence – Nous n’autorisons pas les applications qui décrivent ou facilitent la violence gratuite ou d’autres activités dangereuses.

• Contenu terroriste — Nous n’autorisons pas les applications dont le contenu est lié au terrorisme, comme le contenu qui fait la promotion d’actes terroristes, incite à la violence ou célèbre des attaques terroristes.

Et bien que les utilisateurs puissent être en mesure de publier initialement un tel contenu – aucun système n’est parfait – une application avec du contenu généré par l’utilisateur comme Truth Social (ou Facebook ou Twitter, d’ailleurs) devrait être en mesure de supprimer ces messages en temps opportun afin d’être considérée comme conforme.

En attendant, l’application Truth Social n’est pas techniquement « bannie » de Google Play – en fait, Truth Social est toujours en précommande aujourd’hui, comme Nunes l’a également souligné. Il pourrait toujours apporter des modifications pour se mettre en conformité, ou il pourrait choisir un autre moyen de distribution.

Alors que Truth Social décide de son cours pour Android, un examen des messages sur la version iOS de Truth Social a révélé une gamme de contenus antisémites, y compris le déni de l’Holocauste, ainsi que des messages faisant la promotion de la pendaison de fonctionnaires et d’autres (y compris ceux de la communauté LGBTQ +), des messages préconisant la guerre civile, des messages en faveur de la suprématie blanche et de nombreuses autres catégories qui sembleraient être en violation des propres politiques d’Apple concernant contenu répréhensible et Applications UGC. Peu étaient derrière un écran de modération.

Il n’est pas clair pourquoi Apple n’a pas pris de mesures contre Truth Social, comme la société ne l’a pas commenté. Une possibilité est que, au moment de la soumission originale de Truth Social à l’App Store d’Apple, la toute nouvelle application avait très peu de contenu à analyser par une équipe de révision d’applications, de sorte qu’elle n’avait aucun contenu violant à signaler. Truth Social utilise des écrans de filtrage de contenu sur iOS pour cacher certains messages derrière un avertissement de clic, mais TechCrunch a trouvé que l’utilisation de ces écrans était aléatoire. Alors que les écrans de contenu masquaient certains messages qui semblaient enfreindre les règles de l’application, les écrans masquaient également de nombreux messages qui ne contenaient pas de contenu répréhensible.

En supposant qu’Apple ne prenne aucune mesure, Truth Social ne serait pas la première application à sortir de la Écosystème en ligne pro-Trump et trouvez une maison sur l’App Store. Un certain nombre d’autres applications conçues pour attirer la droite politique avec de nobles promesses sur l’absence de censure ont également obtenu le feu vert d’Apple.

Réseaux sociaux Gettr et Parler et l’application de partage de vidéos Rumble courtisent à peu près le même public avec des revendications similaires de modération « non interventionniste » et sont disponibles en téléchargement sur l’App Store. Gettr et Rumble sont tous deux disponibles sur le Google Play Store, mais Google a supprimé Parler en janvier 2021 pour incitation à la violence liée à l’attaque du Capitole et ne l’a pas rétabli depuis.

Les trois applications ont des liens avec Trump. Gettr a été créé par l’ancien conseiller de Trump, Jason Miller, tandis que Parler a été lancé avec la bénédiction financière de Rebekah Mercer, grande donatrice de Trump, qui a joué un rôle plus actif dans la direction de l’entreprise après l’attaque du 6 janvier contre le Capitole des États-Unis. À la fin de l’année dernière, Rumble a conclu un accord de contenu avec la société de médias de l’ancien président Trump, Trump Media & Technology Group (TMTG), pour fournir du contenu vidéo pour Truth Social.

De nombreux réseaux sociaux ont été impliqués dans l’attaque du 6 janvier – à la fois des réseaux sociaux traditionnels et des applications s’adressant explicitement aux partisans de Trump. Sur Facebook, les théoriciens du complot électoral ont afflué vers des groupes populaires et se sont organisés ouvertement autour de hashtags tels que #RiggedElection et #ElectionFraud. Les utilisateurs de Parler ont figuré en bonne place parmi les émeutiers qui se sont précipités dans le Capitole des États-Unis, et Gizmodo identifié certains de ces utilisateurs grâce aux métadonnées GPS attachées à leurs publications vidéo.

Aujourd’hui, Truth Social est un refuge pour les groupes politiques et les individus qui ont été évincés des plateformes traditionnelles par crainte qu’ils puissent inciter à la violence. L’ancien président Trump, qui a fondé l’application, est le most proéminent parmi les figures déplateformées pour s’y installer, mais Truth Social propose également un refuge pour QAnon, une théorie du complot politique sectaire qui a été explicitement interdite aux réseaux sociaux traditionnels comme Twitter, YouTube et Facebook en raison de son association avec des actes de violence.

Au cours des dernières années seulement, cela inclut un père californien qui a déclaré avoir tiré sur ses deux enfants avec un fusil de chasse. en raison de sa croyance dans les délires QAnon, un homme de New York qui a tué un chef de la mafia et est apparu avec un « Q » écrit sur sa paume au tribunal et divers incidents de terrorisme intérieur qui a précédé l’attaque du Capitole. Fin 2020, Facebook et YouTube ont tous deux resserré les règles de leur plate-forme pour nettoyer le contenu QAnon après des années à lui permettre de prospérer. En janvier 2021, Twitter à lui seul a réprimé un réseau de plus de 70 000 comptes partageant du contenu lié à QAnon, d’autres réseaux sociaux emboîtant le pas et prenant la menace au sérieux à la lumière de l’attaque du Capitole.

Un rapport publié cette semaine par l’organisme de surveillance des médias NewsGuard détaille comment le mouvement QAnon est bien vivant sur Truth Social, où un certain nombre de comptes vérifiés continuent de promouvoir la théorie du complot. L’ancien président Trump, le PDG de Truth Social et ancien représentant à la Chambre des représentants, Devin Nunes, et Patrick Orlando, PDG du bailleur de fonds de Truth Social, Digital World Acquisition Corporation (DWAC), ont tous fait la promotion du contenu QAnon ces derniers mois.

Plus tôt cette semaine, l’ancien président Trump a lancé un blitz de messages faisant explicitement la promotion de QAnon, citant ouvertement la théorie du complot liée à la violence et au terrorisme intérieur plutôt que de s’appuyer sur un langage codé pour parler à ses partisans comme il l’a fait dans le passé. Cette escalade s’est associée à l’enquête fédérale en cours sur la mauvaise gestion présumée par Trump d’informations classifiées à enjeux élevés – une situation qui est déjà inspiré la violence dans le monde réel — fait monter les enchères sur une application sociale où l’ancien président est capable de communiquer ouvertement à ses abonnés en temps réel.

Que Google prenne une mesure préventive pour garder Truth Social du Play Store alors qu’Apple lui permet, jusqu’à présent, de fonctionner est un changement intéressant dans les politiques des deux géants de la technologie sur la modération et le maintien de l’ordre de l’App Store. Historiquement, Apple a pris une main plus lourde dans la modération de l’App Store – éliminant les applications qui ne l’étaient pas jusqu’aux normes, mal conçu, trop adulte, trop spammévoire juste opérant dans une zone grise qu’Apple décide plus tard qu’il faut maintenant appliquer la loi. La raison pour laquelle Apple ne touche pas la main dans ce cas particulier n’est pas claire, mais la société a été sous examen fédéral rigoureux au cours des derniers mois sur son approche interventionniste du marché lucratif des applications.