Une patate chaude : Bien qu’il ne s’agisse que d’une version bêta, ChatGPT montre déjà des capacités impressionnantes à l’ensemble des communautés Internet, y compris les forums clandestins, où des cybercriminels chevronnés ont démontré comment l’IA peut faciliter la création de logiciels malveillants fonctionnels.

Alors que les écoles de la ville de New York ont ​​​​décidé d’interdire ChatGPT de leur réseau et de leurs appareils, les cybercriminels clandestins envisagent d’adopter la nouvelle technologie pour créer des logiciels malveillants plus rapidement. Le chatbot basé sur l’apprentissage automatique a été conçu pour interagir de manière conversationnelle, répondre aux questions de suivi et admettre ses erreurs, et il semble que les chercheurs d’OpenAI aient fait un si bon travail que le service peut même écrire du code qui fonctionne avec seulement quelques ajustements ici et là.

Entreprise de sécurité Check Point récemment forums ciblés sur la cybercriminalité à la recherche de morceaux de code malveillant assistés par ChatGPT. Ils ont trouvé ce qu’ils cherchaient, car ChatGPT est apparemment utilisé à la fois comme un outil « pédagogique » et comme une plate-forme de création de logiciels malveillants.

Grâce au chatbot d’OpenAI, les utilisateurs du forum de piratage souterrain analysé par Check Point ont pu créer un voleur basé sur Python qui recherche les types de fichiers courants, les copie dans le dossier Temp, les zippe et les télécharge sur un serveur FTP codé en dur. Les analyses de mousse ont confirmé que le code malveillant pouvait fonctionner.

Un deuxième échantillon, créé par le même utilisateur, était un extrait de code basé sur Java capable de télécharger un client SSH/Telnet (PuTTY) puis de l’exécuter secrètement sur le système à l’aide de Powershell – une fonction qui pouvait être modifiée pour télécharger et exécuter n’importe quel programme. D’autres « acteurs de la menace » moins capables ont utilisé ChatGPT pour créer un outil de chiffrement afin de pouvoir facilement générer des clés cryptographiques, chiffrer des fichiers, comparer des hachages, etc.

ChatGPT peut même être (ab)utilisé pour « faciliter les activités de fraude », a averti Check Point, car le service a également été en mesure de créer des scripts de marché pour le Dark Web, en utilisant des API tierces pour « obtenir une crypto-monnaie à jour (Monero , Bitcoin et Etherium) dans le cadre du système de paiement du marché du Dark Web. »

Check Point s’est déjà essayé à automatiser l’intégralité d’un flux d’infection complet avec un e-mail de phishing et un code Excel VBA malveillant. En outre, les chercheurs ont également utilisé Codex – un autre système de création de code basé sur l’IA – pour créer d’autres types de morceaux complexes de code (potentiellement) malveillant.

Concernant ChatGPT, les chercheurs affirment qu’il est encore trop tôt pour décider si oui ou non le chatbot « deviendra le nouvel outil préféré des participants au Dark Web ». Cependant, la communauté clandestine a déjà montré un intérêt significatif à « sauter dans cette dernière tendance pour générer du code malveillant ». ChatGPT devrait inclure certaines garanties pour éviter les abus, mais les auteurs de logiciels malveillants et les script kiddies ont montré qu’ils pouvaient facilement contourner ces garanties.