Dans le contexte: Chaque année, la conférence Def Con réunit des professionnels de la sécurité informatique, des journalistes, des avocats, des représentants du gouvernement fédéral américain, des chercheurs et des experts en code. La cible : le matériel, les logiciels ou tout autre élément susceptible d’être « piraté ». L’édition de cette année mettra l’accent sur les algorithmes d’IA.

Prévue du 10 au 13 août à Las Vegas, l’édition 2023 de la conférence Def Con accueillera un événement majeur entièrement consacré à l’attaque des grands modèles de langage (LLM) employés par les algorithmes d’IA générative. La convention de piratage populaire accueillera une initiative AI Village (AIV), avec la première IA générative publique équipe rouge événement.

Les organisateurs de Def Con attendent des milliers de professionnels de la sécurité, d’étudiants et de pirates informatiques souhaitant tester les services LLM, avec des modèles d’IA fournis par Anthropic, Google, Hugging Face, Nvidia, OpenAI et Stability. Microsoft prendra également en charge le village AI, tandis que les testeurs et les assistants de code utiliseront une plate-forme d’évaluation développée par Scale AI.

Les participants utiliseront les ordinateurs portables fournis par Def Con, qui géreront également un accès chronométré (et probablement illimité) à plusieurs LLM. Une capture du système de points de style drapeau favorisera les tests pour un large éventail de problèmes, les équipes rouges devant respecter le « serment d’hippocrate des pirates » – quoi que cela signifie réellement. La personne qui obtiendra le plus grand nombre de points remportera un GPU Nvidia « haut de gamme » (bien que non spécifié).

Les LLM apportent une explosion de créativité sans précédent, le blog officiel d’AI Village déclaré, en aidant les gens à diffuser leurs idées plus rapidement, en abaissant les barrières à l’entrée dans les domaines créatifs et en permettant de « nouveaux types de contenu créatif ». Cependant, avec de grandes puissances viennent des problèmes de sécurité encore plus importants, que nous commençons seulement à comprendre car les technologies LLM sont automatisées à grande échelle.

Les hallucinations, les évasions, les préjugés et une augmentation drastique des capacités sont les nouveaux problèmes auxquels « les professionnels de la sécurité et le public doivent faire face », a déclaré AI Village. Sven Cattell, le fondateur d’AI Village, a déclaré qu’une manière traditionnelle de résoudre ces problèmes comptait sur des équipes rouges spécialisées, travaillant principalement dans des organisations privées.

Def Con fournira un moyen de trouver plus de problèmes au sein des services LLM, a déclaré Cattell, car les primes de bogues, les événements de piratage en direct et d’autres « engagements communautaires en matière de sécurité » peuvent être adaptés pour être testés sur des systèmes basés sur des modèles d’apprentissage automatique. L’événement August AI Village sera un « effort de collaboration », réunissant des pirates informatiques, des partenaires de groupes communautaires, des groupes à but non lucratif et même des partisans du gouvernement (américain).