Au début FAFO test pour Elon Musk, l’Allemagne pourrait être condamnée à infliger une amende à Twitter pour avoir omis à plusieurs reprises de se conformer à une loi sur les discours de haine sur les réseaux sociaux, alias NetzDG, qui exige la suppression rapide des contenus illégaux comme les discours de haine.

L’Office fédéral de la justice (BfJ) a annoncé le déménagement dans un communiqué de presse aujourd’hui – affirmant qu’il a engagé une procédure en vertu de la loi nationale sur l’application des réseaux (alias NetzDG) ​​après avoir établi qu’il existe « des indications suffisantes d’échecs » dans les processus de gestion des plaintes de la plate-forme.

Dans le cadre du NetzDG, les plateformes de médias sociaux doivent répondre aux signalements d’utilisateurs de contenu illégal, vérifier ce qui a été signalé et supprimer le contenu s’il confirme qu’il est illégal, dans les sept jours – ou 24 heures pour les contenus les plus manifestement illégaux. Ce qui est illégal est régi par le code pénal allemand, qui comprend les discours de haine, les abus et les menaces, et l’antisémitisme.

« De nombreux contenus ont été signalés à la BfJ qui ont été publiés sur Twitter, que l’autorité considère comme illégaux et, malgré les plaintes des utilisateurs, n’ont pas été supprimés ou bloqués par le fournisseur dans les délais légaux. Les poursuites judiciaires engagées sont basées sur cela », a déclaré le BfJ dans un communiqué (que nous avons traduit de l’allemand avec une traduction automatique).

« En cas de violation individuelle par les fournisseurs de réseaux sociaux des obligations de contrôle et de suppression de la NetzDG, on ne peut généralement pas supposer qu’il n’existe pas de procédure efficace pour traiter les plaintes concernant des contenus illégaux. Cependant, une défaillance systémique de la gestion des plaintes est passible d’amendes, ce qui se produit lorsque des violations des spécifications pertinentes de la NetzDG se produisent à plusieurs reprises en temps opportun et d’une manière pertinente pour le sujet.

Le Bureau a déclaré que le contenu sur lequel il agit contre Twitter est «étroitement lié en termes de temps et de substance» – accusant une «défaillance systémique dans la gestion des plaintes du fournisseur». « Ils ont été publiés sur Twitter sur une période d’environ quatre mois et signalés au fournisseur de Twitter comme illégaux par les utilisateurs », a-t-il ajouté. « Tous les contenus contiennent des déclarations d’opinion similaires, injustifiées et diffamatoires, toutes dirigées contre la même personne. Selon la BfJ, ils constituent un délit.

Sur le papier, la loi allemande NetzDG prévoit des amendes allant jusqu’à 50 millions d’euros pour les infractions au régime.

Cependant, jusqu’à présent, le gouvernement n’a pas cherché à appliquer la loi pour les violations de modération de contenu – et, avouons-le, aucune entreprise de médias sociaux ne peut revendiquer un bilan parfait sur ce front – il est donc intéressant de voir le Twitter de Musk aiguilleter le Bureau de la justice en action enfin. (NetzDG est entré en vigueur en octobre 2017, lorsque Musk était plus occupé à faire du battage médiatique sur Hyperloop et The Boring Company qu’à battre Twitter à mort.)

La plateforme de messagerie Telegram a été frappée l’année dernière par des amendes NetzDG d’un montant total de 5,125 millions d’euros. Mais c’était pour ne pas avoir fourni aux utilisateurs des outils pour signaler le contenu illégal et pour ne pas avoir créé d’entité juridique en Allemagne pour recevoir les communications officielles des régulateurs – plutôt que pour les violations des règles de retrait elles-mêmes, ce à quoi Twitter semble être confronté ici.

Nous avons envoyé un e-mail au bureau de presse de Twitter pour obtenir une réponse à la BfJ qui a engagé une procédure concernant les échecs de modération du contenu du système et il a répondu avec une réponse automatisée contenant l’emoji caca – quelque chose que le compte de messagerie de presse de Twitter fait depuis la fin du mois dernier. (Musk a précédemment liquidé le service de communication de Twitter, ouvrant la voie à ses ingénieurs « hardcore » restants pour remplacer le personnel de communication intelligent par un algorithme stupide.)

Depuis que Musk a emporté un évier dans le siège social de Twitter fin octobre – pour signaler le début de son règne/vider la plate-forme dans les égouts – il est sur le point de réduire les effectifs et de démanteler les ressources qui étaient auparavant consacrées à la modération de contenu. Pourtant, malgré l’exécution d’un boulet de démolition grâce à la capacité de la plate-forme à répondre aux rapports des utilisateurs sur le contenu haineux, il a prétendu réformer et améliorer son approche de la modération – faisant un grand spectacle en développant une fonctionnalité existante de vérification des faits basée sur la foule, appelée Community Notes .

Il a suggéré que c’est sa voie préférée pour fournir une modération de discours décentralisée et équitable, via un système de notes supplémentaires qui peuvent être ajoutées au « mauvais discours » plutôt que de le retirer (combiné avec certaines pénalités comme la suppression des tweets offensants de la recommandation algorithmique).

Le fait est que l’argument de Musk n’est pas seulement malhonnête – l’externalisation de la modération du contenu tout en sabrant les ressources internes n’est pas une amélioration, mais vous voulez le faire tourner – il est également aveugle au risque juridique que ses décisions ont mis en place pour l’entreprise dans des pays comme l’Allemagne où il n’y a pas débat participatif sur les contenus illégaux puisque la loi exige la suppression rapide des tweets illégaux. Par conséquent, le NetzDG propose un test précoce de l’approche/des réclamations/de l’appétit de Musk pour les amendes, comme nous l’avons signalé l’année dernière.

(NB : La loi sur les services numériques de l’Union européenne impose également des exigences légales sur la manière dont les services numériques doivent aborder la gouvernance du contenu – et cette réglementation entre en vigueur dans l’ensemble de l’UE pour tous les services numériques à partir du début de 2024 ; bien qu’un sous-ensemble de plates-formes plus importantes, appelées Les VLOP devraient être conformes plus tôt, probablement à partir de cet automne, et il est possible que Twitter atteigne le seuil VLOP. Les amendes prévues par le nouveau régime de l’UE, quant à elles, peuvent atteindre 6 % du chiffre d’affaires annuel mondial.)

Retour en Allemagne : Twitter semble avoir une chance d’éviter ce qui pourrait être une amende NetzDG de plusieurs millions de dollars s’il s’engage auprès du gouvernement fédéral en raison de préoccupations concernant le contenu illégal – comme le dit le BfJ, il donne à l’entreprise la possibilité de commenter sur la prétendue défaillance systémique de la gestion des plaintes.

Si Twitter ne parvient pas à le faire, ou – disons – s’il envoie une réponse qui a autant de substance qu’un emoji caca, le BfJ passera à l’étape suivante de la procédure en concluant que son allégation de comportement illégal reste justifiée – et s’appliquera à le tribunal de district de Bonn pour l’ouverture d’une procédure préjudicielle.

NetzDG exige qu’un juge se prononce sur l’illégalité du contenu faisant l’objet de la plainte, avant qu’une amende ne soit infligée pour un échec de retrait, il appartiendrait donc au tribunal de district de Bonn de le faire. Si le tribunal confirme le point de vue du BfJ sur l’illégalité du contenu, l’Office serait alors habilité à infliger une amende à Twitter. Il est donc encore temps de faire le plein de pop-corn pour celui-ci.

Si cela ne suffisait pas à faire du FAFO en Allemagne, le Twitter de Musk est également confronté à un défi de contenu illégal distinct pour le contenu illégal : en janvier, une poursuite en négation de l’holocauste pour discours de haine a été déposée par HateAid et l’Union européenne des étudiants juifs qui cherchent à établir si les entreprises dont les conditions générales interdisent l’antisémitisme ont l’obligation contractuelle de respecter leurs conditions.

Les plaideurs adoptent une approche différente (vs NetzDG) ​​– et, si leur procès l’emporte, cela pourrait créer un précédent qui s’appliquerait plus largement que Twitter. Ainsi, le mandat de Musk au sommet de l’oiseau pourrait avoir une signification plus large pour la liberté d’expression qu’il ne le soupçonne.