Les responsables gouvernementaux et les dirigeants de l’industrie de l’IA ont convenu mardi d’appliquer des mesures de Sécurité élémentaires dans ce domaine en évolution rapide et d’établir un réseau international de recherche sur la sécurité.

Près de six mois après le premier sommet mondial sur la sécurité de l’IA à Bletchley Park en Angleterre, la Grande-Bretagne et la Corée du Sud accueillent le sommet sur la sécurité de l’IA cette semaine à Séoul. Le rassemblement souligne les nouveaux défis et opportunités auxquels le monde est confronté avec l’avènement de la technologie de l’IA.

Le gouvernement britannique a annoncé mardi Un nouvel accord entre 10 pays et l’Union européenne pour établir un réseau international similaire à l’AI Safety Institute du Royaume-Uni, qui est la première organisation financée par des fonds publics au monde, afin d’accélérer l’avancement de la science de la sécurité de l’IA. Le réseau favorisera une compréhension commune de la sécurité de l’IA et alignera son travail sur la recherche, les normes et les tests. L’Australie, le Canada, l’UE, la France, l’Allemagne, l’Italie, le Japon, Singapour, la Corée du Sud, le Royaume-Uni et les États-Unis ont signé l’accord.

Le premier jour du Sommet sur l’IA à Séoul, les dirigeants mondiaux et les principales entreprises d’IA se sont réunis pour une réunion virtuelle présidée par le Premier ministre britannique Rishi Sunak et le président sud-coréen Yoon Suk Yeol pour discuter de la sécurité, de l’innovation et de l’inclusion de l’IA.

Au cours des discussions, les dirigeants ont convenu d’une approche plus large Déclaration de Séoul, en mettant l’accent sur une collaboration internationale accrue dans la construction de l’IA pour résoudre les grands problèmes mondiaux, faire respecter les droits de l’homme et combler les fossés numériques dans le monde, tout en donnant la priorité à l’approche « centrée sur l’humain, digne de confiance et responsable ».

« L’IA est une technologie extrêmement passionnante – et le Royaume-Uni a mené des efforts mondiaux pour faire face à son potentiel, en accueillant le premier sommet mondial sur la sécurité de l’IA l’année dernière », a déclaré Sunak dans un communiqué du gouvernement britannique. « Mais pour obtenir le bon côté, nous devons nous assurer que c’est sûr. C’est pourquoi je suis ravi que nous ayons obtenu aujourd’hui un accord pour un réseau d’instituts de sécurité de l’IA.

Le mois dernier, le Royaume-Uni et les États-Unis Scellé un protocole d’accord de partenariat collaborer à la recherche, à l’évaluation de la sécurité et aux conseils sur la sécurité de l’IA.

L’entente annoncée aujourd’hui fait suite à les premiers engagements mondiaux en matière de sécurité de l’IA de 16 entreprises impliquées dans l’IA, dont Amazon, Anthropic, Cohere, google, IBM, Inflection AI, Meta, Microsoft, Mistral AI, Open AI, Samsung Electronics, Technology Innovation Institute, xAi et Zhipu.ai. (Zhipu.ai est une société chinoise soutenue par Alibaba, Ant et Tencent.)

Les sociétés d’IA, y compris celles des États-Unis, de la Chine et des Émirats arabes unis (EAU), ont accepté les engagements de sécurité de « ne pas développer ou déployer de modèle ou de système du tout si les mesures d’atténuation ne peuvent pas maintenir les risques en dessous des seuils », selon le communiqué du gouvernement britannique.

« C’est une première mondiale d’avoir autant d’entreprises d’IA de premier plan dans tant de régions différentes du monde qui acceptent toutes les mêmes engagements en matière de sécurité de l’IA », a déclaré Sunak. « Ces engagements garantissent que les principales entreprises d’IA du monde feront preuve de transparence et de responsabilité dans leurs plans de développement d’une IA sûre. »