Au début FAFO test pour Elon Musk, l’Allemagne pourrait être condamnée à une amende à Twitter pour avoir omis à plusieurs reprises de se conformer à une loi sur le retrait des discours de haine sur les réseaux sociaux, alias la NetzDG, qui exige la suppression rapide des contenus illégaux comme les discours de haine.
L’Office fédéral de la justice (BfJ) a annoncé cette décision dans un communiqué. communiqué de presse aujourd’hui – affirmant qu’elle a lancé une procédure en vertu de la loi sur l’application des réseaux du pays (alias NetzDG) après avoir établi qu’il existe des « indications suffisantes d’échecs » dans les processus de gestion des plaintes de la plateforme.
En vertu du NetzDG, les plateformes de médias sociaux doivent répondre aux rapports des utilisateurs faisant état de contenu illégal, en vérifiant ce qui a été signalé et en supprimant le contenu s’il confirme qu’il est illégal, dans un délai de sept jours – ou de 24 heures pour les contenus les plus manifestement illégaux. Ce qui est illégal est régi par le code pénal allemand, qui comprend les discours de haine, les abus et menaces, ainsi que l’antisémitisme.
« De nombreux contenus publiés sur Twitter ont été signalés au BfJ, que l’autorité considère comme illégaux et qui, malgré les plaintes des utilisateurs, n’ont pas été supprimés ou bloqués par le fournisseur dans les délais légaux. C’est sur cette base que repose l’amende procédure engagée », a déclaré le BfJ dans un communiqué (que nous avons traduit de l’allemand par traduction automatique).
« En cas de violations individuelles par les fournisseurs de réseaux sociaux des obligations de contrôle et de suppression de la NetzDG, on ne peut généralement pas supposer qu’il n’existe pas de procédure efficace pour traiter les plaintes concernant des contenus illégaux. Cependant, un échec systémique dans la gestion des plaintes est passible d’amendes, ce qui se produit lorsque des violations des spécifications pertinentes de la NetzDG se produisent de manière répétée, en temps opportun et d’une manière pertinente pour le sujet.
Le Bureau a déclaré que le contenu pour lequel il agit contre Twitter est « étroitement lié en termes de temps et de substance », accusant ainsi une « défaillance systémique dans la gestion des plaintes du fournisseur ». « Ils ont été publiés sur Twitter pendant environ quatre mois et signalés au fournisseur de Twitter comme étant illégaux par les utilisateurs », ajoute le communiqué. « Tous les contenus contiennent des déclarations d’opinion similaires, injustifiées et diffamatoires, toutes dirigées contre la même personne. Selon le BfJ, cela constitue un délit.»
Sur le papier, la loi allemande NetzDG prévoit des amendes allant jusqu’à 50 millions d’euros en cas de violation du régime.
Cependant, jusqu’à présent, le gouvernement n’a pas cherché à faire appliquer la loi pour les violations de la modération de contenu – et, avouons-le, aucune entreprise de médias sociaux ne peut se targuer d’un bilan parfait sur ce front – il est donc intéressant de voir le Twitter de Musk s’en prendre au ministère de la Justice. enfin en action. (NetzDG est entré en vigueur dès octobre 2017, lorsque Musk était plus occupé à vanter Hyperloop et The Boring Company qu’à battre Twitter à mort.)
La plateforme de messagerie Telegram a été frappée l’année dernière d’amendes NetzDG totalisant 5,125 millions d’euros. Mais c’était pour ne pas avoir fourni aux utilisateurs des outils pour signaler les contenus illégaux et pour ne pas avoir créé d’entité juridique en Allemagne pour recevoir les communications officielles des régulateurs – plutôt que pour des violations des règles de retrait elles-mêmes, ce à quoi Twitter semble être confronté ici.
Nous avons envoyé un e-mail au bureau de presse de Twitter pour obtenir une réponse au BfJ qui avait lancé une procédure concernant les échecs de modération du contenu du système et il a répondu par une réponse automatisée contenant l’emoji caca – ce que le compte de messagerie de presse de Twitter fait depuis la fin du mois dernier. (Musk avait précédemment liquidé le département de communication de Twitter, ouvrant la voie à ses ingénieurs « hardcore » restants pour remplacer le personnel de communication intelligent par un algorithme stupide.)
Depuis que Musk a introduit un puits au siège de Twitter à la fin du mois d’octobre – pour signaler le début de son règne et jeter la plate-forme à la poubelle – il s’est mis à réduire les effectifs et à démanteler les ressources qui étaient auparavant consacrées à la modération du contenu. Pourtant, bien qu’il ait mis en œuvre une boule de démolition dans la capacité de la plate-forme à répondre aux rapports des utilisateurs faisant état de contenus haineux, il a affirmé réformer et améliorer son approche en matière de modération – faisant une grande démonstration de l’expansion d’une fonctionnalité existante de vérification des faits participative, appelée Notes de la communauté. .
Il a suggéré que c’était sa voie préférée pour assurer une modération décentralisée et équitable des discours, via un système de notes supplémentaires qui peuvent être ajoutées aux « mauvais discours » plutôt que de les supprimer (combiné à certaines sanctions telles que la suppression des tweets incriminés de la recommandation algorithmique).
Le fait est que l’argument de Musk n’est pas seulement fallacieux – l’externalisation de la modération du contenu tout en vidant les ressources internes n’est pas une amélioration quelle que soit la façon dont vous voulez le présenter – il est également aveugle au risque juridique que ses décisions exposent à l’entreprise dans des pays comme l’Allemagne où il n’y a pas de risque juridique. un débat participatif doit avoir lieu sur les contenus illégaux puisque la loi exige la suppression rapide des tweets illégaux. Le NetzDG propose donc un premier test de l’approche, des revendications et de l’appétit de Musk pour les amendes, comme nous l’avons signalé l’année dernière.
(NB : la loi sur les services numériques de l’Union européenne impose également des exigences juridiques sur la façon dont les services numériques doivent aborder la gouvernance du contenu – et cette réglementation entrera en vigueur dans toute l’UE pour tous les services numériques à partir de début 2024 ; bien qu’un sous-ensemble de plates-formes plus grandes, appelées Les VLOP devraient être conformes plus tôt, probablement à partir de cet automne, et il est possible que Twitter atteigne le seuil des VLOP. Les amendes en vertu du nouveau régime européen, quant à elles, peuvent atteindre 6 % du chiffre d’affaires annuel mondial.)
Retour en Allemagne : Twitter semble avoir une chance d’éviter ce qui pourrait être une amende de plusieurs millions de dollars de la NetzDG s’il s’engage avec le gouvernement fédéral sur des préoccupations concernant les contenus illégaux – comme le dit le BfJ, cela donne à l’entreprise la possibilité de commenter sur la prétendue défaillance systémique de la gestion des plaintes.
Si Twitter ne parvient pas à le faire, ou – disons – s’il envoie une réponse qui a autant de substance qu’un emoji de merde, le BfJ passera à l’étape suivante de la procédure en concluant que son allégation de comportement illégal reste justifiée – et s’adressera à le tribunal de district de Bonn pour l’ouverture d’une procédure préjudicielle.
La NetzDG exige qu’un juge se prononce sur l’illégalité du contenu faisant l’objet de la plainte avant qu’une amende ne soit prononcée en cas d’échec du retrait. Il appartiendrait donc au tribunal de district de Bonn de le faire. Si le tribunal confirme le point de vue du BfJ quant à l’illégalité du contenu, l’Office serait alors habilité à infliger une amende à Twitter. Il est donc encore temps de faire le plein de pop-corn pour celui-ci.
Comme si cela ne suffisait pas en Allemagne, le Twitter de Musk est également confronté à un défi distinct concernant le contenu illégal : en janvier, une action en justice pour discours de haine négationniste a été déposée par HateAid et l’Union européenne des étudiants juifs qui cherchent à établir si les entreprises dont les conditions générales interdisent l’antisémitisme ont l’obligation contractuelle de respecter leurs conditions.
Les plaideurs adoptent une approche différente (contre NetzDG) – et, si leur procès l’emporte, cela pourrait créer un précédent qui s’appliquerait plus largement que simplement Twitter. Ainsi, le mandat de Musk au sommet de l’oiseau pourrait avoir une signification plus grande pour la liberté d’expression qu’il ne le soupçonne.
