L’organisme italien de surveillance de la protection des données, Garante per la Protezione dei Dati Personali (alias Garante), a imposé une interdiction temporaire du service ChatGPT d’OpenAI dans le pays, invoquant des problèmes de protection des données.
À cette fin, il a ordonné à l’entreprise de cesser de traiter les données des utilisateurs avec effet immédiat, déclarant qu’il a l’intention d’enquêter sur l’entreprise pour savoir si elle traite illégalement ces données en violation du règlement général de l’UE sur la protection des données (RGPD) lois.
« Aucune information n’est fournie aux utilisateurs et aux personnes concernées dont les données sont collectées par Open AI », le Garante indiqué. « Plus important encore, il semble qu’il n’y ait aucune base légale sous-tendant la collecte et le traitement massifs de données personnelles afin de ‘former’ les algorithmes sur lesquels s’appuie la plateforme. »
ChatGPT, qui aurait atteint plus de 100 millions d’utilisateurs actifs par mois depuis sa sortie à la fin de l’année dernière, n’a pas divulgué ce qu’il a utilisé pour former son dernier grand modèle de langage (LLM), GPT-4, ou comment il l’a formé.
Cela dit, son prédécesseur GPT-3 utilise texte provenant de livres, de Wikipédia et Exploration communece dernier gère un « répertoire ouvert de données d’exploration Web accessibles et analysées par n’importe qui ».
Le Garante a également souligné l’absence de tout système de vérification de l’âge pour empêcher les mineurs d’accéder au service, les exposant potentiellement à des réponses « inappropriées ». Le propre chatbot de Google, appelé Bard, est seulement ouvert aux utilisateurs de plus de 18 ans.
En outre, le régulateur a soulevé des questions sur l’exactitude des informations présentées par ChatGPT, tout en soulignant une violation de données subie par le service au début du mois qui a exposé les titres de discussion de certains utilisateurs et les informations relatives au paiement.
En réponse à la commande, OpenAI a bloqué son chatbot AI génératif d’être accessible par les utilisateurs avec une adresse IP italienne. Il a également déclaré qu’il remboursait les abonnés de ChatGPT Plus, en plus de suspendre les renouvellements d’abonnement.
La société basée à San Francisco a en outre souligné qu’elle fournit ChatGPT conformément au RGPD et à d’autres lois sur la confidentialité. ChatGPT est déjà bloqué en Chine, en Iran, en Corée du Nord et en Russie.
Dans un rapport partagé avec Reuters, OpenAI a déclaré qu’il travaillait activement pour « réduire les données personnelles dans la formation de nos systèmes d’IA comme ChatGPT parce que nous voulons que notre IA en apprenne sur le monde, pas sur les particuliers ».
OpenAI dispose de 20 jours pour notifier à la Garante les mesures qu’elle a prises pour se mettre en conformité, sous peine d’amendes pouvant aller jusqu’à 20 millions d’euros ou 4 % du chiffre d’affaires annuel mondial total, selon le montant le plus élevé.
L’interdiction, cependant, ne devrait pas avoir d’impact sur les applications d’autres sociétés qui utilisent la technologie d’OpenAI pour augmenter leurs services, y compris le moteur de recherche Bing de Microsoft et ses offres Copilot.
Devenez un pro de la réponse aux incidents !
Découvrez les secrets d’une réponse aux incidents à toute épreuve – Maîtrisez le processus en 6 phases avec Asaf Perlman, le responsable IR de Cynet !
Le développement intervient également alors qu’Europol averti que les LLM comme ChatGPT sont susceptibles d’aider à générer du code malveillant, de faciliter la fraude et « d’offrir aux criminels de nouvelles opportunités, en particulier pour les crimes impliquant l’ingénierie sociale, étant donné sa capacité à répondre aux messages en contexte et à adopter un style d’écriture spécifique ».
Ce n’est pas la première fois que les entreprises axées sur l’IA passent sous le radar. L’année dernière, la société controversée de reconnaissance faciale Clearview AI a été une amende par plusieurs européen régulateurs pour avoir récupéré les photos accessibles au public des utilisateurs sans leur consentement pour former son service de correspondance d’identité.
Il a également enfreint les lois sur la protection de la vie privée dans Australie, Canadaet les Etats Unisplusieurs pays ordonnant à l’entreprise de supprimer toutes les données ainsi obtenues.
IA Clearview a déclaré à la BBC News la semaine dernière qu’il a effectué près d’un million de recherches pour les forces de l’ordre américaines, bien qu’il soit interdit définitivement de vendre sa base de données d’empreintes faciales dans le pays.
