Google a annoncé mardi dernier avoir développé un nouvel outil d’intelligence artificielle pour aider les gens identifier les affections cutanées. Comme tout autre outil de vérification des symptômes, il sera confronté à des questions sur la précision avec laquelle il peut effectuer cette tâche. Mais les experts disent qu’il devrait également être examiné pour savoir comment il influence le comportement des gens: est-ce que cela les rend plus susceptibles d’aller chez le médecin? Moins probable?

Ces types d’outils de vérification des symptômes – qui précisent généralement qu’ils ne peuvent pas diagnostiquer les problèmes de santé mais peuvent donner aux gens une idée de ce qui pourrait ne pas être le bon – ont proliféré au cours de la dernière décennie. Certains ont des millions d’utilisateurs et sont évalués à des dizaines de millions de dollars. Des dizaines de personnes sont apparues au cours de l’année écoulée pour aider les gens à vérifier s’ils pouvaient avoir le COVID-19 (dont un par Google).

Malgré leur croissance, peu d’informations sont disponibles sur la manière dont les contrôleurs de symptômes modifient la façon dont les gens gèrent leur santé. Ce n’est pas le type d’analyse que les entreprises effectuent habituellement avant de lancer un produit, explique Jac Dinnes, chercheur principal à l’Institut de recherche appliquée en santé de l’Université de Birmingham, qui a évalué les applications des smartphones pour les affections cutanées. Ils se concentrent sur les réponses données par les contrôleurs de symptômes, et non sur la façon dont les gens réagissent à ces réponses.

«Sans réellement évaluer les outils tels qu’ils sont censés être utilisés, vous ne savez pas quel en sera l’impact», dit-elle.

Combler un manque de connaissances

L’outil dermatologique de Google est conçu pour permettre aux gens de télécharger trois photos d’un problème de peau et de répondre à des questions sur les symptômes. Ensuite, il propose une liste de conditions possibles que le système basé sur l’intelligence artificielle considère comme les meilleures correspondances. Il affiche des images de manuel de la condition et invite les utilisateurs à rechercher ensuite la condition dans Google. Les utilisateurs ont la possibilité d’enregistrer le cas pour l’examiner plus tard ou de le supprimer entièrement. L’entreprise a pour objectif de lancer une version pilote Plus tard cette année.

Cela peut également permettre aux utilisateurs de poursuivre leurs recherches sur un problème potentiel en dehors de l’outil lui-même, a déclaré un porte-parole de Google. Le bord.

Lors du développement d’outils d’intelligence artificielle comme le nouveau programme Google, les chercheurs ont tendance à évaluer la précision du programme d’apprentissage automatique. Ils veulent savoir exactement dans quelle mesure cela peut correspondre à une chose inconnue, comme l’image d’une étrange éruption cutanée que quelqu’un télécharge, avec un problème connu. Google n’a pas publié de données sur la dernière itération de son outil de dermatologie, mais l’entreprise dit il comprend une correspondance précise avec un problème de peau dans les trois principales conditions suggérées 84 pour cent du temps.

On se concentre généralement moins sur ce que les utilisateurs font avec ces informations. Il est donc difficile de dire si un outil comme celui-ci pourrait réellement atteindre l’un de ses objectifs déclarés: donner aux gens accès à des informations qui pourraient alléger une partie du fardeau des dermatologues qui sont étirés partout dans le monde. «Il ne fait aucun doute qu’il existe une demande énorme de dermatologues», dit Dinnes. «Il y a un désir d’utiliser des outils qui sont perçus comme aidant la situation, mais nous ne savons pas vraiment s’ils vont aider.»

C’est une grande lacune dans notre compréhension, dit Hamish Fraser, professeur agrégé de sciences médicales à l’Université Brown qui étudie les vérificateurs de symptômes. «En plus du problème fondamental de savoir si les gens peuvent même interpréter correctement les systèmes et les utiliser correctement, il y a aussi cette question de savoir si les gens vont réellement répondre à tout ce qui leur est renvoyé par le système.»

Combler cette lacune est essentiel car de plus en plus de ces outils arrivent sur le marché, dit Fraser. «Il y a de plus en plus de technologies émergentes.» Il est si important de comprendre comment ils pourraient changer le comportement des gens, car leur rôle dans les soins de santé augmentera probablement.

« Les gens votent déjà avec leurs pieds, en termes d’utilisation de Google et d’autres moteurs de recherche pour vérifier les symptômes et rechercher des maladies », dit Fraser. «Il y a évidemment un besoin là-bas.»

Que font les gens ensuite?

Idéalement, dit Fraser, l’avenirles études demandaient aux personnes utilisant un vérificateur de symptômes la permission de faire un suivi et leur demanderaient ce qu’elles ont fait ensuite ou demanderaient la permission de contacter leur médecin.

«Vous commenceriez très rapidement à savoir si un échantillon aléatoire de millions de personnes qui l’utilisaient avait obtenu du système quelque chose qui se rapportait à ce qui se passait réellement, ou ce que leur médecin de famille disait, ou si elles se rendaient à l’urgence. département », dit-il.

L’un des peu d’études qui ont posé certaines de ces questions ont été suivies par environ 150 000 personnes qui ont utilisé un chatbot médical virtuel appelé Buoy Health. Les chercheurs ont vérifié la probabilité que les gens disent aller chez le médecin avant d’utiliser le bot et quelle est la probabilité qu’ils se rendent chez le médecin après avoir vu ce que le bot avait à dire. Environ un tiers des personnes ont déclaré qu’elles chercheraient des soins moins urgents – peut-être attendre de voir un médecin de soins primaires plutôt que d’aller aux urgences. Seuls 4% ont déclaré qu’ils prendraient des mesures plus urgentes qu’avant d’utiliser le chatbot. Le reste est resté à peu près le même.

Ce n’est qu’une étude, et elle évalue un vérificateur des symptômes médicaux généraux, tels que les problèmes de santé reproductive et les douleurs gastro-intestinales. Mais les résultats étaient, à certains égards, contre-intuitifs: de nombreux médecins s’inquiéter que les vérificateurs de symptômes conduisent à une surutilisation du système de santé et envoient les gens à se faire soigner. Cela semble montrer le contraire, dit Fraser. Les résultats ont également montré à quel point l’exactitude est importante: détourner les gens du traitement pourrait être un gros problème s’il était mal fait.

«Si vous avez quelque chose qui vous préoccupe sur votre peau et qu’une application vous indique que le risque est faible ou qu’elle ne pense pas que ce soit un problème, cela pourrait avoir de graves conséquences si cela retardait votre décision consultation médicale », dit Dinnes.

Pourtant, ce type d’analyse a tendance à être rare. La société à l’origine d’une application existante de vérification des symptômes cutanés, appelée Aysa, n’a pas encore interrogé explicitement les utilisateurs pour savoir quelles mesures ils ont prises après avoir utilisé l’outil. Sur la base de commentaires anecdotiques, la société pense que de nombreuses personnes utilisent l’outil comme deuxième avis pour revérifier les informations obtenues d’un médecin, explique Art Papier, directeur général de VisualDx, la société derrière Aysa. Mais il n’a pas de données quantitatives.

«Nous ne savons pas s’ils sont allés ailleurs après», dit-il. «Nous ne leur demandons pas de revenir sur l’application et de nous dire ce que le médecin a dit.» Papier dit que la société travaille pour créer ces types de boucles de rétroaction dans l’application.

Google a prévu des études de suivi pour son outil de dermatologie, y compris un partenariat avec l’Université de Stanford pour tester l’outil dans un environnement de santé. La société surveillera les performances de l’algorithme, a déclaré Lily Peng, médecin-scientifique et chef de produit pour Google, dans une interview avec Le bord. L’équipe n’a annoncé aucun plan pour étudier ce que font les gens après avoir utilisé l’outil.

Comprendre la façon dont les gens ont tendance à utiliser les informations des vérificateurs de symptômes pourrait aider à garantir que les outils sont déployés de manière à améliorer réellement l’expérience des gens avec le système de santé. Des informations sur les étapes que les groupes de personnes prennent après avoir utilisé un vérificateur donneraient également aux développeurs et aux médecins une image plus complète des enjeux des outils qu’ils construisent. Les personnes ayant les ressources nécessaires pour consulter un spécialiste pourraient être en mesure de suivre une éruption cutanée préoccupante, dit Fraser. «Si les choses se détériorent, ils prendront probablement des mesures», dit-il.

D’autres sans cet accès peuvent avoir uniquement le vérificateur de symptômes. «Cela nous met beaucoup de responsabilités – les personnes qui sont particulièrement vulnérables et qui sont moins susceptibles d’obtenir un avis médical formel peuvent très bien se fier le plus à ces outils», dit-il. «Il est particulièrement important de faire nos devoirs et de nous assurer qu’ils sont en sécurité.»