OpenAI, la société à l’origine du très populaire chatbot ChatGPT AI, a lancé un programme de primes aux bogues dans le but de s’assurer que ses systèmes sont « sûrs et sécurisés ».
À cette fin, il s’est associé à la plateforme de sécurité participative Foule d’insectes aux chercheurs indépendants de signaler les vulnérabilités découvertes dans son produit en échange de récompenses allant de « 200 $ pour des découvertes peu graves à 20 000 $ pour des découvertes exceptionnelles ».
Il convient de noter que le programme ne couvre pas problèmes de sécurité du modèle ou d’hallucination, dans lequel le chatbot est invité à générer un code malveillant ou d’autres sorties défectueuses. L’entreprise a noté que « la résolution de ces problèmes implique souvent des recherches substantielles et une approche plus large ».
Les autres catégories interdites sont les attaques par déni de service (DoS), les API OpenAI de force brute et les démonstrations qui visent à détruire des données ou à obtenir un accès non autorisé à des informations sensibles.
« Veuillez noter que les tests autorisés ne vous exemptent pas de toutes les conditions de service d’OpenAI », a averti la société. « L’abus du service peut entraîner une limitation, un blocage ou une interdiction du débit. »
Cependant, ce qui est concerné, ce sont les défauts des API OpenAI, ChatGPT (y compris les plugins), les intégrations tierces, l’exposition publique des clés API OpenAI et l’un des domaines exploités par la société.
Le développement intervient en réponse à la prise de contrôle du compte de correction OpenAI et aux failles d’exposition des données dans la plate-forme, incitant les régulateurs italiens de la protection des données à examiner de plus près la plate-forme.
L’autorité italienne de protection des données propose des mesures pour lever l’interdiction de ChatGPT
La Garante, qui a imposé une interdiction temporaire de ChatGPT le 31 mars 2023, a depuis présenté un ensemble de mesures que l’entreprise soutenue par Microsoft devra accepter de mettre en œuvre d’ici la fin du mois pour que la suspension soit levée.
« OpenAI devra rédiger et mettre à disposition, sur son site internet, une notice d’information décrivant les modalités et la logique des traitements de données nécessaires au fonctionnement de ChatGPT ainsi que les droits reconnus aux personnes concernées », a déclaré le Garante. a dit.
Apprenez à sécuriser le périmètre d’identité – Stratégies éprouvées
Améliorez la sécurité de votre entreprise grâce à notre prochain webinaire sur la cybersécurité dirigé par des experts : Explorez les stratégies de périmètre d’identité !
De plus, l’avis d’information doit être facilement disponible pour les utilisateurs italiens avant de s’inscrire au service. Les utilisateurs devront également être tenus de déclarer qu’ils ont plus de 18 ans.
OpenAI a également reçu l’ordre de mettre en œuvre un système de vérification de l’âge d’ici le 30 septembre 2023, pour filtrer les utilisateurs âgés de moins de 13 ans et mettre en place des dispositions pour demander le consentement parental pour les utilisateurs âgés de 13 à 18 ans. La société a eu jusqu’au 31 mai pour soumettre un plan pour le système de contrôle de l’âge.
Dans le cadre des efforts déployés pour exercer leurs droits sur les données, les utilisateurs et les non-utilisateurs du service peuvent demander la « rectification de leurs données personnelles » dans les cas où elles sont incorrectement générées par le service, ou alternativement, effacer les données si les corrections sont techniquement irréalisables.
Les non-utilisateurs, conformément à la Garante, devraient en outre disposer d’outils facilement accessibles pour s’opposer au traitement de leurs données personnelles par les algorithmes d’OpenAI. L’entreprise devrait également lancer une campagne publicitaire d’ici le 15 mai 2023 pour « informer les individus sur l’utilisation de leurs données personnelles pour la formation d’algorithmes ».
