Le Twitter d’Elon Musk pourrait être confronté à une série de sanctions de plusieurs millions de dollars pour ne pas avoir réussi à éliminer les discours de haine illégaux en Allemagne.

Les amendes pourraient même atteindre des milliards si le gouvernement fédéral agit sur les nombreux cas d’inaction en matière de modération de contenu qui lui ont déjà été signalés et si les tribunaux allemands confirment que la loi a été violée.

Plus tôt cette semaine, le gouvernement fédéral a annoncé qu’il lançait une procédure concernant des défaillances systémiques présumées dans le cadre de la loi nationale sur le retrait des discours de haine. La loi, connue familièrement sous le nom de NetzDG, prévoit des amendes pouvant aller jusqu’à 50 millions d’euros par cas.

Le gouvernement fédéral n’agit que sur une poignée de tweets parmi des centaines qui ont été signalés et rassemblés dans une base de données, selon l’avocat Chan-jo Jun, fondateur et associé directeur du cabinet d’avocats spécialisé en informatique JunIT Rechtsanwälte.

Jun représente le commissaire à l’antisémitisme du Land de Bade-Wurtemberg, Michael Blume, qui, selon lui, a été la cible de tweets abusifs et diffamatoires que Twitter a refusé de supprimer. Certains des tweets abusifs ont été publiés par un utilisateur de Twitter qui avait été banni avant que Musk ne prenne le contrôle de la plateforme, mais dont le compte a été rétabli dans le cadre de l’amnistie générale accordée à Musk pour les comptes suspendus.

À la fin de l’année dernière, le cabinet d’avocats a saisi le tribunal pour demander une injonction contre Twitter pour ne pas avoir donné suite aux rapports visant à supprimer les discours de haine en vertu de la loi NetzDG. La contestation judiciaire a réussi à établir que les tweets étaient illégaux. Et cela semble avoir contribué à inciter le gouvernement fédéral à agir – qui, mardi, a déclaré avoir établi « suffisamment d’indications d’échecs » dans les processus de gestion des plaintes de Twitter pour lancer un processus qui pourrait aboutir à la première sanction d’une entreprise de médias sociaux. pour ne pas avoir supprimé le contenu illégal sous NetzDG.

Discutant du contexte de l’affaire, Jun a déclaré à fr.techtribune.net que son entreprise avait signalé un certain nombre de tweets au Bureau fédéral de la justice (BfJ) l’année dernière, mais qu’on lui avait initialement dit qu’elle ne disposait pas de suffisamment d’éléments pour établir qu’il y avait une défaillance systémique.

« Nous avions signalé un certain nombre de cas au [BfJ] à ce moment-là, et ont constaté qu’ils étaient d’accord sur le fait que ces tweets étaient illégaux, mais ont déclaré qu’ils ne disposaient pas de suffisamment de matériel pour un échec systématique. Et c’est à ce moment-là qu’un groupe de bénévoles a commencé à rechercher systématiquement du contenu illégal et à continuer à le signaler et à créer une énorme base de données… et ils ont continué à le soumettre au [BfJ]. Cela représente donc plus de 600 cas », a-t-il déclaré.

« Ceux qui sont désormais soumis au [federal government’s] Ces cas ne semblent être que les premiers. Ils les ont choisis parce qu’ils étaient tous similaires – je pense qu’ils provenaient du même utilisateur et avaient le même contenu. C’est probablement la raison pour laquelle ils ont choisi ces solutions, car le cas le plus simple serait de constater qu’il s’agit d’un échec systématique. Qu’il ne s’agissait pas d’un simple échec d’un modérateur de contenu, mais plutôt du fait que la grande majorité – voire la totalité – des signalements ont été mal traités.

À la fin de l’année dernière, le New York Times a rapporté des recherches menées par le Center for Countering Digital Hate, l’Anti-Defamation League et un certain nombre d’autres groupes qui étudient les plateformes en ligne, qui ont révélé une augmentation importante des discours de haine depuis que Musk a repris la plateforme fin octobre et a commencé à réduire les effectifs – y compris la réduction du personnel en Allemagne et dans d’autres bureaux internationaux.

Les inquiétudes concernant l’impact de Musk sur la modération du contenu de Twitter dans la région ont également attiré l’attention de l’exécutif européen, la Commission européenne, qui assumera plus tard cette année un rôle majeur de surveillance des grandes plateformes en vertu de la loi sur les services numériques, qui fixera des règles pour comment les services doivent réagir aux signalements de contenu illégal.

Le commissaire au marché intérieur, Thierry Breton, a averti Musk en novembre dernier que l’entreprise avait un énorme travail à accomplir pour se conformer aux nouvelles règles paneuropéennes – en vertu desquelles les sanctions en cas de violation peuvent atteindre 6 % du chiffre d’affaires annuel mondial. Ainsi, si Twitter n’est pas encore en faillite, sous la direction d’un propriétaire milliardaire irrégulier et fortement endetté, il sera confronté à un avenir extrêmement coûteux si Musk continue de faire un pied de nez aux régulateurs et d’ignorer les lois qu’il n’aime pas.

Même rien qu’en Allemagne, si le BfJ devait agir sur plus de 600 cas de discours de haine illégaux qui lui ont déjà été signalés, cela pourrait aboutir à des amendes allant jusqu’à 30 milliards d’euros pour Twitter, sur la base des sanctions maximales fixées par la loi NetzDG. .

Bien entendu, un résultat théorique maximal est peu probable. Mais les cas que le BfJ pourrait clairement ne pas manquer ne manquent pas – ce qui signifie que les amendes pour l’échec de Twitter, propriété de Musk, à purger les discours de haine, pourraient néanmoins rapidement s’accumuler. Et Musk ne dispose pas d’une quantité illimitée de mobilier de bureau à vendre pour rembourser ses dettes.

Jun dit qu’il s’attend à ce que la première sanction imposée aux tweets sur lesquels le BfJ a pris des mesures soit fixée en dessous du maximum – en supposant que le tribunal confirme qu’ils sont illégaux.

« La loi prévoit des amendes pouvant aller jusqu’à 50 millions d’euros pour chaque cas. Il est possible qu’au début ils ne prennent pas la totalité du montant. Il y a en fait un tableau… qui indique l’intensité de l’échec. Je m’attendrais donc à une première amende comprise entre 5 et 20 millions d’euros », suggère-t-il.

« Il faudra un peu plus de temps pour parcourir toute la procédure, car c’est désormais aux tribunaux de décider si le contenu est illégal ou non. Je suis cependant presque sûr qu’ils sont illégaux car ils ont déjà fait l’objet de décisions de justice.»

« Cela faisait sept mois que je faisais pression sur le BfJ et le ministre », ajoute-t-il. «Et en fait, parce que je pensais que l’échec systématique était évident – ​​avec toutes sortes de crimes commis sur Twitter, y compris la pédopornographie, qui n’était pas systématiquement non plus démantelée dans le passé. Et il en va de même pour la plupart des cas de diffamation – en particulier ceux dans lesquels la légitimité d’un tweet ne peut être jugée uniquement par le contenu du tweet lui-même, où il faut explorer quelle est réellement la vérité lorsque la diffamation se propage sur Twitter.

« Et ce que nous avons vu dans le passé, c’est que Twitter a décidé de ne pas prendre la peine de demander aux utilisateurs de fournir la moindre preuve de ce qu’ils restent… même si cela est fait par d’autres réseaux sociaux, comme google, ou [other social] réseaux en Allemagne.

Personne ne suggérerait que Twitter, avant Musk, faisait un travail parfait de modération de contenu. Loin de là. Et il reste curieux que l’Allemagne n’ait jusqu’à présent poursuivi aucune entreprise de médias sociaux pour non-respect des exigences de NetzDG en matière de retrait de contenu (après tout, la loi est en vigueur depuis 2017).

Mais si Musk a fait quelque chose de rapide, c’est en érodant la confiance des régulateurs et des législateurs – en supprimant les ressources pour la modération du contenu et en licenciant le personnel politique dont le travail consistait à engager un dialogue avec les régulateurs sur des questions de discours contestées afin de faire valoir la cause de l’entreprise – ce qui signifie que les institutions dont il aime se moquer n’ont d’autre recours que d’imaginer le pire et de se contenter d’appliquer la loi.

Le BfJ a été contacté pour commentaires.

Le service de presse de Twitter a répondu automatiquement avec un emoji de merde en réponse à une demande de commentaire envoyée par courrier électronique.