Le Twitter d’Elon Musk pourrait être accusé d’un pipeline de sanctions de plusieurs millions de dollars pour ne pas avoir supprimé les discours de haine illégaux en Allemagne.

Les amendes pourraient même s’élever à des milliards si le gouvernement fédéral agit sur les nombreux cas d’inaction de modération de contenu qui lui ont déjà été signalés et si les tribunaux allemands confirment que la loi a été enfreinte.

Plus tôt cette semaine, le gouvernement fédéral a annoncé qu’il engageait une procédure pour défaillances systémiques présumées en vertu de la loi nationale sur les discours de haine. La loi, connue familièrement sous le nom de NetzDG, autorise des amendes pouvant aller jusqu’à 50 millions d’euros par cas.

Le gouvernement fédéral n’agit que sur une poignée de tweets sur des centaines qui ont été signalés et rassemblés dans une base de données, selon l’avocat Chan-jo Jun, fondateur et associé directeur du cabinet d’avocats spécialisé en informatique, JunIT Rechtsanwälte.

Jun représente le commissaire à l’antisémitisme du Land de Bade-Wurtemberg, Michael Blume, qui, selon lui, a été la cible de tweets abusifs et diffamatoires que Twitter a refusé de supprimer. Certains des tweets abusifs ont été publiés par un utilisateur de Twitter qui avait été banni avant que Musk ne reprenne la plate-forme, mais dont le compte a été rétabli dans le cadre de l’amnistie générale de Musk sur les comptes suspendus.

À la fin de l’année dernière, le cabinet d’avocats s’est adressé au tribunal pour demander une injonction contre Twitter pour ne pas avoir donné suite aux rapports visant à supprimer les discours de haine en vertu de la loi NetzDG. La contestation judiciaire a réussi à établir que les tweets étaient illégaux. Et cela semble avoir contribué à inciter le gouvernement fédéral à agir – qui, mardi, a déclaré avoir établi « suffisamment d’indices d’échecs » dans les processus de gestion des plaintes de Twitter pour lancer un processus qui pourrait entraîner la première sanction pour une entreprise de médias sociaux. pour ne pas avoir supprimé le contenu illégal sous NetzDG.

Discutant du contexte de l’affaire, Jun a déclaré à fr.techtribune.net que son entreprise avait signalé un certain nombre de tweets au Bureau fédéral de la justice (BfJ) l’année dernière, mais on lui avait d’abord dit qu’il n’avait pas suffisamment de matériel pour établir qu’il y avait une défaillance systémique.

« Nous avions signalé un certain nombre de cas au [BfJ] à ce moment-là, et ont constaté qu’ils étaient d’accord sur le fait que ces tweets étaient illégaux, mais ont déclaré qu’ils n’avaient pas assez de matériel pour un échec systématique. Et c’est alors qu’un groupe de volontaires a commencé à rechercher systématiquement des contenus illégaux et à continuer de les signaler et à créer une énorme base de données… et ils ont continué à soumettre cela au [BfJ]. C’est donc plus de 600 cas », a-t-il déclaré.

« Ceux qui sont maintenant soumis à la [federal government’s] cas ne semblent être que les premiers. Ils les ont choisis parce qu’ils étaient tous similaires à cet égard – je pense qu’ils provenaient du même utilisateur et avaient le même contenu. C’est probablement la raison pour laquelle ils les ont choisis, car ce serait le cas le plus facile de voir qu’il s’agit d’un échec systématique. Qu’il ne s’agissait pas d’un seul échec d’un modérateur de contenu, mais en fait que la grande majorité – ou la totalité – des rapports ont été mal traités.

À la fin de l’année dernière, le New York Times a rendu compte des recherches menées par le Center for Countering Digital Hate, l’Anti-Defamation League et un certain nombre d’autres groupes qui étudient les plateformes en ligne qui ont constaté une augmentation importante du discours de haine depuis que Musk a repris la plateforme fin octobre et s’est mis à réduire les effectifs – y compris le personnel de coupe en Allemagne et dans d’autres bureaux internationaux.

Les inquiétudes concernant l’impact de Musk sur la modération du contenu de Twitter dans la région ont également attiré l’attention de l’exécutif de l’UE, la Commission européenne, qui assumera un rôle de surveillance majeur des grandes plates-formes en vertu de la loi sur les services numériques plus tard cette année, qui établira des règles pour comment les services doivent répondre aux rapports de contenu illégal.

Le commissaire au marché intérieur, Thierry Breton, a averti Musk en novembre dernier que l’entreprise avait un énorme travail devant elle pour se conformer au nouveau règlement paneuropéen – en vertu duquel les sanctions en cas de violation peuvent atteindre 6% du chiffre d’affaires annuel mondial. Donc, si Twitter n’est pas encore en faillite, sous la direction de son propriétaire milliardaire erratique et fortement endetté, il fait face à un avenir extrêmement coûteux si Musk continue de faire un pied de nez aux régulateurs et d’ignorer les lois qu’il n’aime pas.

Ne serait-ce qu’en Allemagne si la BfJ devait agir sur les plus de 600 cas de discours de haine illégaux qui lui ont déjà été signalés, ce qui pourrait entraîner des amendes allant jusqu’à 30 milliards d’euros pour Twitter, sur la base des peines maximales prévues par la loi NetzDG .

Bien sûr, un résultat maximal théorique est peu probable. Mais il ne manque clairement pas de cas que le BfJ pourrait appliquer – ce qui signifie que les amendes pour les échecs de Twitter appartenant à Musk à purger les discours de haine pourraient néanmoins s’accumuler rapidement. Et Musk n’a pas une réserve illimitée de mobilier de bureau hérité à vendre pour rembourser ses dettes.

Jun dit qu’il s’attend à ce que la première sanction sur les tweets sur lesquels la BfJ a pris des mesures soit fixée en dessous du maximum – en supposant que le tribunal confirme qu’ils sont illégaux.

« La loi prévoit des amendes pouvant aller jusqu’à 50 millions d’euros pour chaque cas. Il est possible qu’au début, ils ne prennent pas le montant total. Il y a en fait un tableau… qui indique l’intensité de la panne. Je m’attendrais donc à ce que quelque chose entre 5 et 20 millions d’euros soit la première amende », suggère-t-il.

« Il faudra un peu plus de temps pour qu’il passe par toute la procédure car maintenant c’est aux tribunaux de décider si le contenu est illégal ou non. Je suis à peu près sûr cependant qu’ils sont illégaux car ils ont déjà fait l’objet de décisions de justice.

« Cela faisait sept mois que je mettais la pression sur la BfJ et le ministre », ajoute-t-il. «Et en fait parce que je pensais que l’échec systématique avait été évident – ​​avec toutes sortes de crimes commis sur Twitter, y compris la pédopornographie, qui n’a pas non plus été systématiquement supprimée dans le passé. Et il en va de même pour la plupart des affaires de diffamation – en particulier celles où la légitimité d’un tweet ne peut être jugée uniquement par le contenu du tweet lui-même, où vous devez explorer quelle est la vérité lorsque la diffamation est diffusée sur Twitter.

« Et ce que nous avons vu dans le passé, c’est que Twitter a décidé de ne pas prendre la peine de demander aux utilisateurs de fournir la moindre preuve de ce qu’ils restent… même si cela est fait par d’autres réseaux sociaux, tels que google, ou [other social] réseaux en Allemagne.

Personne ne suggérerait que Twitter, avant Musk, faisait un travail parfait de modération de contenu. Loin de là. Et il reste curieux que l’Allemagne n’ait poursuivi aucune entreprise de médias sociaux pour ne pas avoir respecté les exigences de retrait de contenu de NetzDG jusqu’à présent (après tout, la loi est en vigueur depuis 2017).

Mais si Musk a fait quelque chose de rapide, c’est la confiance des régulateurs et des législateurs – en faisant des choses comme vider les ressources pour la modération du contenu et licencier le personnel politique dont le travail consistait à engager un dialogue avec les régulateurs sur des questions de discours contestées afin de faire pression sur le cas de l’entreprise – ce qui signifie que les institutions dont il aime se moquer n’ont d’autre recours que d’assumer le pire et de continuer à appliquer la loi.

Le BfJ a été contacté pour commentaires.

Le bureau de presse de Twitter a répondu automatiquement avec un emoji caca en réponse à une demande de commentaire envoyée par e-mail.