Nos comptes Google peuvent, dans de nombreux cas, être le pilier de nos vies numériques. Un compte contient notre e-mail, nos photos, nos documents et peut-être même la connexion à d’autres comptes sur le Web. C’est pour cette raison qu’un parent a vécu une situation terrible après que Google l’a bloqué sur son compte, soupçonnant la maltraitance d’enfants en raison de photos du fils du parent qui ont été prises pour obtenir une aide médicale.

Le New York Times signalé cette semaine sur la situation d’un parent du nom de Mark, dont le fils en bas âge avait une condition médicale qui nécessitait un diagnostic, et a utilisé des photos pour communiquer avec des professionnels de la santé.

Le père a utilisé son smartphone Android pour prendre des photos de l’aine de son fils afin de suivre la taille et la progression d’une infection. La situation s’est produite au début de 2021, toujours au milieu du pire de la pandémie de COVID-19. Les photos ont été prises à la demande d’une infirmière, afin que les photos puissent être examinées avant une consultation vidéo, et ont finalement conduit à une prescription d’antibiotiques qui a fini par éliminer l’infection.

Quel était le problème? Deux jours après la prise des photos, le père a reçu une notification de Google révélant que ses comptes avaient été verrouillés en raison d’un contenu préjudiciable qui constituait une « violation grave des politiques de Google et pourrait être illégale ». Google a reconnu le contenu comme nuisible à l’aide de son API Content Safety, qui utilise l’IA pour « identifier de manière proactive des images CSAM inédites ». Le contenu est ensuite examiné et, s’il est confirmé, signalé au National Center for Missing and Exploited Children (NCMEC), le compte en question étant verrouillé pour un examen plus approfondi.

Dans le cas de Mark, le fait que ces photos aient été sauvegardées sur son compte Google Photos comptait comme « l’action positive » dont Google avait besoin pour parcourir les images. Google était alors tenu par la loi fédérale de signaler les images.

Dans le cadre de ce processus, Mark a perdu l’accès à son courrier électronique, à ses contacts, à ses photos et même à son numéro de téléphone lorsqu’il utilisait Google Fi. Google a rejeté les appels de Mark pour rouvrir le compte, même après que le département de police de San Francisco ait déterminé qu’aucun crime n’avait été commis. Le SFPD a même essayé de contacter Mark concernant ce verdict, mais n’a pas pu le faire car le numéro qu’il avait était le numéro Google Fi dont Mark avait été bloqué.

Mark a envisagé de poursuivre Google en justice pour récupérer ses données, mais il a été estimé que l’affaire coûterait environ 7 000 $, un prix que Mark ne jugeait pas valable.

Au-delà de la situation de Mark, NYT a trouvé un autre cas presque identique qui s’est produit à peu près à la même période, qui avait rencontré le même silence de Google sur le renversement de la situation.

Google a dit NYT qu’il s’en tenait aux décisions.

Dans une déclaration à Le bord autour de cette situation, Google a maintenu ses actions en disant :

Le matériel d’exploitation sexuelle d’enfants (CSAM) est odieux et nous nous engageons à empêcher sa diffusion sur nos plateformes. Nous suivons la loi américaine pour définir ce qui constitue le CSAM et utilisons une combinaison de technologie de correspondance de hachage et d’intelligence artificielle pour l’identifier et le supprimer de nos plateformes. De plus, notre équipe d’experts en sécurité des enfants examine le contenu signalé pour en vérifier l’exactitude et consulte des pédiatres pour s’assurer que nous sommes en mesure d’identifier les cas où les utilisateurs peuvent demander un avis médical.

L’avis de 9to5Google

Inutile de dire qu’il s’agit d’un scénario cauchemardesque pour beaucoup, en particulier avec l’apparente indifférence de Google à rétablir le compte après que les autorités ont confirmé qu’aucun crime n’avait été commis. Mais cela sert également de bon rappel pour certaines choses.

Avant tout, c’est un rappel pour faire des sauvegardes. Google rend cela relativement facile, avec Takeout offrant un moyen de télécharger l’intégralité des données de votre compte à l’aide d’un seul outil, avec des formats qui peuvent vous aider à conserver ces données pour plus tard. Deuxièmement, c’est un bon rappel de ne pas garder tous vos œufs dans le même panier, pour ainsi dire. L’utilisation d’un compte Google pour conserver toutes vos informations est pratique, mais ce n’est peut-être pas le cas toujours être la meilleure chose à savoir comment Google a tendance à réagir lorsqu’il ferme des comptes – l’histoire de Mark est loin d’être le premier exemple de Google fermant un compte de manière inattendue et fermant les yeux sur les appels.

Plus sur Google :

Mis à jour après la publication pour clarifier les détails d’un procès et la réponse de Google.