Google est l’une des premières grandes entreprises technologiques à commenter l’approche proposée par le Canada pour gérer le contenu en ligne préjudiciable.
Dans un Google Canada article de blog, le géant de l’Internet a déclaré que certains aspects de la proposition du gouvernement « pourraient être vulnérables aux abus et conduire à une suppression excessive de contenu légitime ».
Ottawa présente une proposition de surveillance de la sécurité numérique pour lutter contre la haine en ligne
Le gouvernement a proposé pour la première fois en juillet 2021 une nouvelle Commission de la sécurité numérique (DSC) avec le pouvoir de réglementer le contenu en ligne haineux des principales plateformes telles que Facebook, Twitter, Instagram, YouTube et Pornhub.
Le gouvernement a identifié cinq catégories de contenus haineux que les plateformes devraient surveiller dans les 24 heures suivant les plaintes : discours de haine, contenus d’exploitation sexuelle d’enfants, partage non consensuel d’images intimes, incitation à la violence et contenus terroristes.
Cependant, Google note que l’exigence proposée pour les plates-formes de supprimer le contenu signalé par l’utilisateur dans les 24 heures pourrait être exploitée par d’autres pour harceler ou limiter la parole.
« Il est essentiel de trouver le bon équilibre entre vitesse et précision », a écrit la société. « Les drapeaux d’utilisateurs sont mieux utilisés comme« signaux » de contenu potentiellement violant, plutôt que comme des déclarations définitives de violations.»
Google a déclaré qu’au deuxième trimestre 2021, sur les 17,2 millions de vidéos signalées par les utilisateurs sur sa plate-forme YouTube, près de 300 000 ont été supprimées. Cependant, Google a supprimé 6,2 millions de vidéos au total pour avoir enfreint les règles de sa communauté, montrant que le signalement n’est pas exhaustif pour lutter contre le contenu haineux.
Google a également fortement mis en garde contre la surveillance proactive du contenu, où le contenu est analysé à la recherche de matériel pouvant appartenir à l’une des cinq catégories de contenu haineux avant d’être publié.
« L’imposition d’obligations de surveillance proactive pourrait entraîner la suppression de l’expression licite… et serait en décalage avec les normes démocratiques internationales.
En vertu de la proposition, les plateformes seraient obligées d’informer la GRC ou d’autres organismes d’application de la loi du contenu haineux potentiel, et le nouveau régulateur DSC pourrait également demander des ordonnances du tribunal pour que les entreprises de télécommunications bloquent l’accès aux plateformes qui refusent de supprimer l’exploitation sexuelle des enfants ou le contenu terroriste. .
Les libéraux présentent un projet de loi pour lutter contre la haine en ligne avec des modifications au Code criminel
Lors de sa première annonce, le gouvernement a invoqué comme justification de la proposition les attaques violentes contre une mosquée à Québec en 2017 et les attaques contre la mosquée de Christchurch en 2019, lorsque des individus ont été radicalisés par le contenu en ligne et lorsque les entreprises de médias sociaux n’ont pas supprimé le contenu lié à les attaques.
Michael Geist, titulaire de la Chaire de recherche du Canada en droit d’Internet et du commerce électronique à l’Université d’Ottawa, a déclaré que la proposition est « profondément imparfaite » et a été vivement critiquée par des groupes anti-haine et des libertés civiles qui partagent bon nombre des mêmes préoccupations que Google. .
Il envisage que Google utiliserait probablement l’intelligence artificielle (IA) pour surveiller de manière proactive le contenu qui pourrait ensuite être signalé à la police.
« [That] soulève d’énormes préoccupations, en particulier pour les communautés vulnérables, étant donné le potentiel de biais au sein de ces systèmes d’IA », a-t-il déclaré.
Geist a également prédit que les groupes haineux pourraient cibler les groupes anti-haine pour faire supprimer leur contenu s’il n’y a pas de procédure régulière, ce qui, selon lui, limite les exigences de réponse de 24 heures, en particulier si des sanctions sont impliquées si les entreprises ne répondent pas à temps.
« Google suggère que cela va en fait conduire à un blocage excessif, à une suppression excessive de contenu », a-t-il déclaré. « Les entreprises préviennent qu’il existe une menace pour la liberté d’expression. Et cette menace s’étend aux groupes que nous essayons de protéger.
Geist a été l’un des centaines à soumettre des commentaires au cours de l’été lors d’une période de consultation sur la proposition qui a eu lieu lors des élections canadiennes de 2021 et s’est terminée quatre jours seulement après.
Cependant, il a déclaré que la consultation n’a pas été transparente puisque le gouvernement n’a pas rendu public les commentaires qu’il a reçus, car ils « peuvent contenir des informations commerciales confidentielles », selon Patrimoine Canada.
Néanmoins, le gouvernement libéral a promis de présenter une loi sur les préjudices en ligne dans les 100 premiers jours suivant les élections.
« Essayer de précipiter une proposition profondément défectueuse et très critiquée sur la base d’une consultation non transparente n’est pas un pas dans la bonne direction », a déclaré Geist. « Cela est susceptible de conduire à terme à des contestations constitutionnelles. »
-Avec des fichiers d’Amanda Connolly de Global News
© 2021 Global News, une division de Corus Entertainment Inc.
.
