La conception montrée dans la démo nécessite qu’une personne prenne trois photos de son défaut sous différents angles et distances. L’utilisateur peut éventuellement ajouter des informations telles que la partie du corps affectée et depuis combien de temps il a le problème. Appuyez sur « Envoyer » pour compresser les images sur Google. L’application affiche ensuite les « conditions suggérées », montrant les conditions possibles illustrées par des images. En tapant sur l’un d’eux, une liste d’informations clés telles que les symptômes, la contagiosité et les options de traitement s’affiche. Google affirme que l’application a été formée sur « des centaines de milliers d’images de peau » et peut identifier 288 affections, y compris les cancers de la peau, couvrant environ 90 % des recherches courantes sur le Web en dermatologie.

La FDA exempte certains logiciels de santé qu’elle juge « à faible risque » – tels que les conseils de « bien-être » comme la gestion du diabète ou les informations sur les symptômes de santé – des approbations de dispositifs médicaux. Cela nécessite l’approbation d’autres personnes, telles que celles proposant des diagnostics spécifiques ou des applications fonctionnant comme des dispositifs médicaux tels qu’un stéthoscope. La frontière entre les applications qui nécessitent une autorisation et celles qui n’en nécessitent pas est difficile à cerner car les logiciels médicaux et les règles qui les régissent sont relativement nouveaux.

Bradley Thompson, un avocat spécialisé dans la réglementation chez Epstein Becker Green, pose aux clients une poignée de questions clés lorsqu’ils tentent de déterminer s’ils auront besoin de l’approbation de la FDA. Ils incluent la manière dont la sortie du logiciel est présentée à une personne et si une entreprise fait des réclamations médicales spécifiques.

L’application de Google ne met pas en évidence une seule affection cutanée possible en réponse aux photos d’une personne, et elle affiche un avertissement indiquant que « les affections suggérées répertoriées ici ne constituent pas un diagnostic médical ». Un porte-parole de l’entreprise a comparé l’application à un moteur de recherche affichant des résultats qu’une personne peut parcourir et tirer ses propres conclusions.

Pourtant, Google a également mis l’accent sur les côtelettes médicales de l’application pour la peau. DeSalvo, le chef de la santé, a déclaré que Google avait développé l’application car il n’y avait pas assez de spécialistes de la peau pour aider chaque personne souffrant d’affections cutanées. de Google article de blog relie l’application à des études évaluées par des pairs dans lesquelles la technologie de l’entreprise a été comparée à celle des médecins, affirmant que « notre système d’IA peut atteindre une précision comparable à celle des dermatologues certifiés par le conseil d’administration américain ».

Cette vantardise a attiré l’attention du juriste de Thompson. « Cela suggère vraiment que c’est au moins comparable à ce qu’un médecin humain peut faire », dit-il – le type d’affirmation qui pourrait intéresser la FDA.

Daneshjou, le dermatologue et chercheur de Stanford, pense également que l’application de Google pourrait apparaître aux consommateurs et aux régulateurs comme offrant une expertise médicale, pas seulement des résultats de recherche. Elle dit que l’application pourrait être considérée comme un appareil «à haut risque», nécessitant l’approbation de la FDA, car certaines affections cutanées telles que le mélanome peuvent être dangereuses.

Daneshjou a contribué à une étude récente soulevant des inquiétudes quant à la minutie avec laquelle la FDA contrôle les logiciels de santé de l’IA, et elle dit qu’il est peut-être trop tôt pour lancer des outils dermatologiques d’IA ouverts aux consommateurs. « Si un patient pense que cet algorithme fonctionne aussi bien qu’un dermatologue certifié, il peut avoir plus confiance en lui », dit-elle. Cela pourrait amener les gens à demander des biopsies ou un traitement inutiles à un médecin, ou à ne pas effectuer une visite cruciale.

Google devrait également en dire plus sur la façon dont il a testé sa technologie sur différents tons de peau, a déclaré Daneshjou. Jusqu’à présent, les études dermatologiques sur l’IA de la société ont impliqué relativement peu de personnes à la peau plus foncée.

Google affirme que ces publications ne représentaient pas ses derniers modèles de données ou de reconnaissance d’images, qui ont été améliorés. Le porte-parole a déclaré que la conception et les clauses de non-responsabilité de l’application de dermatologie reposaient sur des études d’expérience utilisateur ; des études supplémentaires sont en cours, et la société étudiera également comment les gens utilisent le service après sa mise à disposition en Europe.

Google a été confronté à des défis pratiques lors du déploiement d’autres logiciels de santé d’IA prometteurs en dehors du laboratoire. En 2018, la société a commencé à tester un système capable de détecter les maladies oculaires chez les personnes atteintes de diabète dans des cliniques en Thaïlande. En 2020, la société a publié une étude sur le déploiement selon laquelle le système avait rejeté plus de 20 pour cent des images des patients en raison de problèmes tels que l’éclairage variable et les contraintes pratiques des infirmières.

Mis à jour, 6-23-21, 11h30 HE : cet article a été mis à jour avec un commentaire de la FDA.

Plus de belles histoires WIRED