Contenu de l’article

La proposition du gouvernement libéral d’obliger les plateformes en ligne à surveiller tout le contenu des utilisateurs et à supprimer les publications qu’ils jugent illégales « entraînera le blocage du contenu légitime », selon Google.

Contenu de l’article

La société a averti le gouvernement lors d’une consultation sur le projet de loi que les systèmes automatisés évoluent toujours et « souvent en difficulté » lorsqu’il s’agit de définitions nuancées ou dépendantes du contexte.

Par exemple, les systèmes automatisés à la recherche de discours haineux ou de contenu terroriste peuvent identifier par erreur la couverture médiatique ou la recherche universitaire qui traite de ces sujets.

Cela signifie qu’exiger des plates-formes qu’elles « utilisent des systèmes automatisés pour surveiller et bloquer de manière proactive le contenu conduirait probablement au blocage de grandes quantités de contenu légitime et compromettrait l’accès des Canadiens à des informations précieuses », a déclaré Google.

Le gouvernement libéral a promis de présenter une législation visant à lutter contre les méfaits en ligne – définis comme le contenu terroriste, le contenu incitant à la violence, les discours haineux, les images intimes partagées de manière non consensuelle et l’exploitation sexuelle des enfants – dans les 100 jours suivant le retour du Parlement. Le gouvernement a présenté les détails de sa proposition en juillet et a demandé des commentaires, bien qu’il ait refusé de publier les 423 soumissions qu’il a reçues. Google est désormais la dernière parmi un certain nombre d’organisations et d’universitaires à rendre leurs propres soumissions publiques.

Contenu de l’article

Bon nombre de ces experts ont averti le gouvernement que la mise en œuvre de la proposition telle qu’elle est actuellement structurée violerait les droits constitutionnels et à la vie privée des Canadiens.

Google et d’autres critiques ont souligné une litanie de problèmes avec la proposition, y compris les plates-formes d’exigences surveillent tout le contenu, qu’elles suppriment le contenu signalé dans les 24 heures et qu’elles signalent le contenu aux forces de l’ordre.

Les algorithmes et les systèmes automatisés sont un élément clé des produits de Google, guidant tout, des résultats de ses moteurs de recherche à la publicité ciblée et aux recommandations vidéo sur YouTube. Mais la société a averti Patrimoine Canada que ces systèmes ne sont tout simplement pas à la hauteur de la tâche d’identifier le contenu préjudiciable où la nuance ou le jugement est requis.

Contenu de l’article

Il a donné l’exemple d’une vidéo d’un conflit militaire. Dans un contexte, il sert de preuve d’atrocités qui ont été commises ; dans un autre, la vidéo pourrait être utilisée comme matériel promotionnel pour une organisation terroriste – ou elle pourrait être utilisée comme « un discours politique important par des populations marginalisées », a déclaré Google.

Il a fait valoir que « les mêmes images emblématiques et horribles du génocide historique sont utilisées par ceux qui veulent plaider pour la justice et la tolérance, d’une part, et ceux qui prônent la violence et la poursuite du génocide, d’autre part. Entre ces deux pôles se trouvent ceux qui aspirent à rendre compte des événements historiques de manière objective. Les ordinateurs ne peuvent pas encore distinguer ce contexte clé.

Contrairement à certains des autres qui ont participé au processus de consultation, l’entreprise ne demande pas au gouvernement d’abandonner complètement la proposition, soulignant un certain nombre de suggestions pour l’améliorer.

Contenu de l’article

Cela inclut la suppression du délai de 24 heures dans lequel les plateformes doivent supprimer le contenu et l’établissement d’un processus plus flexible.

« Les problèmes associés à un délai de retrait extrêmement court ne seront aggravés que par le fait que tout indicateur d’utilisateur peut déclencher le début du compte à rebours », a-t-il déclaré. Confrontées à un délai court et à des pénalités élevées en cas de non-conformité, les plateformes « choisiront de privilégier la vitesse à la précision et de bloquer/supprimer automatiquement le contenu faisant l’objet d’un signalement si leur système automatisé conclut qu’il existe même une faible possibilité que le contenu soit interdit.

« En conséquence, des quantités importantes d’expressions légitimes et licites qui ont été signalées de manière incorrecte par un utilisateur ou mal caractérisées par un système automatisé seront supprimées », a déclaré Google.

Contenu de l’article

Un autre problème lié au fait de s’appuyer sur les indicateurs d’utilisateurs est qu’ils peuvent être erronés ou utilisés de manière malveillante, a-t-il déclaré, soulignant son expérience avec les utilisateurs signalant du contenu qui enfreint les directives de YouTube. « Nous recevons quotidiennement des centaines de milliers de drapeaux de contenu. Alors que beaucoup sont des tentatives de bonne foi pour signaler un contenu problématique, un grand nombre d’entre elles représentent un simple désaccord avec les opinions exprimées dans un contenu légitime ou sont inexactes.

Google est également préoccupé par la suggestion du gouvernement d’exiger des plateformes qu’elles signalent le contenu aux forces de l’ordre, affirmant que les plateformes peuvent se sentir obligées de signaler un contenu qui pourrait même potentiellement être interdit. Il a déclaré que ce « flux régulier de gros volumes de données d’utilisateurs d’entreprises privées vers les organismes d’application de la loi à l’insu des utilisateurs violerait les attentes des consommateurs en matière de confidentialité et de surveillance gouvernementale dans un pays démocratique ».

Contenu de l’article

Google a également demandé au gouvernement d’abandonner l’exigence selon laquelle les plateformes collectent et signalent des données démographiques anonymisées sur leurs utilisateurs. Il a déclaré que forcer les plateformes à collecter des données personnelles sensibles sur les Canadiens crée un « risque continu pour la confidentialité » en cas de violation de données.

Le projet de loi sur les méfaits en ligne a été élaboré sous la direction du ministre du Patrimoine de l’époque, Steven Guilbeault, qui a été transféré au dossier de l’environnement lors du remaniement ministériel du 26 octobre. Le nouveau ministre du Patrimoine, Pablo Rodriguez, a été interrogé sur les critiques que le projet de loi avait reçues peu de temps après son assermentation, et a déclaré qu’il « écouterait et consulterait ».

Lorsqu’on lui a demandé si cela signifiait qu’il retravaillerait le projet de loi, Rodrigues a répondu: « Je vais consulter, c’est sûr. »