Un groupe d’experts dans le domaine de l’intelligence artificielle, comprenant certaines des entreprises directement impliquées dans l’espace et celles qui en bénéficieront commercialement, a signé un document affirmant que l’IA pose un risque majeur pour la vie humaine. UN déclaration publiée sur le site Web du Center for AI Safety dit que l’atténuation du risque « d’extinction de l’IA » devrait être une priorité aussi importante que d’autres risques « à l’échelle de la société » comme la guerre nucléaire et les pandémies.

Des dizaines d’experts dans le domaine de l’IA ont signé une déclaration sur les risques de l’IA, dont le fondateur et PDG d’OpenAI, Sam Altman, le PDG de Google DeepMind, Demis Hassabis ; Kevin Scott, directeur technique de Microsoft, et Eric Horvitz, directeur scientifique de Microsoft ; Martin Rees, professeur de physique à l’Université de Cambridge ; le musicien Grimes ; et de nombreuses autres personnes issues d’universités, d’OpenAI, de Google et d’autres institutions du monde entier.

« Malgré son importance, la sécurité de l’IA reste remarquablement négligée, dépassée par le rythme rapide du développement de l’IA. Actuellement, la société est mal préparée à gérer les risques liés à l’IA », a déclaré le Center for AI Safety.

La charte du groupe est d’aider les chefs d’entreprise et les décideurs politiques à prendre des décisions éclairées sur la gestion des risques liés à l’IA. Le groupe affirme que certains des risques associés à l’IA incluent la possibilité pour des acteurs malveillants de « réutiliser » l’IA et de l’utiliser pour fabriquer des armes chimiques et déstabiliser les gouvernements.

L’IA pourrait également être utilisée pour répandre la désinformation, a déclaré le groupe, ou conduire à une situation où « l’humanité perd la capacité de s’autogouverner et devient complètement dépendante des machines ». Ce ne sont là que quelques-uns des risques que le Center for AI Safety considère comme réels et auxquels il convient de prêter attention.

OpenAI est la société à l’origine du logiciel ChatGPT. Microsoft a payé à OpenAI 10 milliards de dollars pour un partenariat avec la société, affirmant à l’époque que l’IA est une technologie « transformatrice » qui pourrait avoir un impact aussi important que le PC, Internet et les appareils mobiles.

L’IA pourrait également jouer un rôle dans l’avenir du développement de jeux vidéo. L’IA est également l’une des raisons pour lesquelles les écrivains hollywoodiens restent en grève, en raison des craintes que les studios n’utilisent l’IA pour écrire ou aider à l’écriture de scénarios.