Une nouvelle tendance émerge dans l’espace de l’IA générative – l’IA générative pour la cybersécurité – et google fait partie de ceux qui cherchent à entrer au rez-de-chaussée.
Lors de la conférence RSA 2023 aujourd’hui, Google annoncé Cloud Security AI Workbench, une suite de cybersécurité alimentée par un modèle de langage d’IA « sécurité » spécialisé appelé Sec-PaLM. Une émanation du modèle PaLM de Google, Sec-PaLM est « affiné pour les cas d’utilisation de la sécurité », explique Google – incorporant des renseignements de sécurité tels que la recherche sur les vulnérabilités logicielles, les logiciels malveillants, les indicateurs de menace et les profils comportementaux des acteurs de la menace.
Cloud Security AI Workbench couvre une gamme de nouveaux outils basés sur l’IA, comme Threat Intelligence AI de Mandiant, qui tirera parti de Sec-PaLM pour trouver, résumer et agir sur les menaces de sécurité. (Rappelons que Google a acheté Mandiant en 2022 pour 5,4 milliards de dollars.) VirusTotal, une autre propriété de Google, utilisera Sec-PaLM pour aider les abonnés à analyser et à expliquer le comportement des scripts malveillants.
Ailleurs, Sec-PaLM aidera les clients de Chronicle, le service de cybersécurité cloud de Google, à rechercher des événements de sécurité et à interagir « de manière conservatrice » avec les résultats. Les utilisateurs du Security Command Center AI de Google, quant à eux, obtiendront des explications « lisibles par l’homme » sur l’exposition aux attaques avec l’aimable autorisation de Sec-PaLM, y compris les actifs concernés, les mesures d’atténuation recommandées et les résumés des risques pour les résultats en matière de sécurité, de conformité et de confidentialité.
« Alors que l’IA générative a récemment captivé l’imagination, Sec-PaLM est basé sur des années de recherche fondamentale sur l’IA par Google et DeepMind, et sur l’expertise approfondie de nos équipes de sécurité », a écrit Google dans un article de blog ce matin. « Nous venons tout juste de commencer à réaliser la puissance de l’application de l’IA générative à la sécurité, et nous sommes impatients de continuer à tirer parti de cette expertise pour nos clients et de faire progresser la communauté de la sécurité. »
Ce sont des ambitions assez audacieuses, d’autant plus que VirusTotal Code Insight, le premier outil de Cloud Security AI Workbench, n’est disponible que dans un aperçu limité pour le moment. (Google dit qu’il prévoit de déployer le reste des offres à des « testeurs de confiance » dans les mois à venir.) Il n’est franchement pas clair dans quelle mesure Sec-PaLM fonctionne – ou ne fonctionne pas – dans la pratique. Bien sûr, les « atténuations recommandées et les résumés des risques » semblent utiles, mais les suggestions sont-elles bien meilleures ou plus précises parce qu’un modèle d’IA les a produites ?
Après tout, les modèles de langage d’IA, aussi avancés soient-ils, font des erreurs. Et ils sont sensibles aux attaques telles que l’injection rapide, ce qui peut les amener à se comporter d’une manière que leurs créateurs n’avaient pas prévue.
Cela n’arrête pas les géants de la technologie, bien sûr. En mars, Microsoft a lancé Security Copilot, un nouvel outil qui vise à « résumer » et à « donner un sens » aux renseignements sur les menaces à l’aide de modèles d’IA génératifs d’OpenAI, dont GPT-4. Dans les documents de presse, Microsoft – similaire à Google – a affirmé que l’IA générative équiperait mieux les professionnels de la sécurité pour lutter contre les nouvelles menaces.
Le jury est tout à fait d’accord là-dessus. En vérité, l’IA générative pour la cybersécurité pourrait s’avérer être plus à la mode qu’autre chose – il y a peu d’études sur son efficacité. Nous verrons les résultats assez tôt avec un peu de chance, mais en attendant, prenez les affirmations de Google et Microsoft avec un grain de sel sain.
