Plus de 1 100 signataires, dont Elon Musk, Steve Wozniak et Tristan Harris du Center for Humane Technology, ont signé une lettre ouverte qui a été publiée en ligne mardi soir et qui appelle « tous les laboratoires d’IA à suspendre immédiatement pendant au moins 6 mois la formation. des systèmes d’IA plus puissants que GPT-4.

La lettre se lit comme suit :

Les systèmes d’IA contemporains deviennent désormais compétitifs pour les humains dans les tâches générales,[3] et nous devons nous demander : devrions-nous laisser les machines inonder nos canaux d’information de propagande et de contrevérité ? Devrions-nous automatiser toutes les tâches, y compris celles qui sont épanouissantes ? Devrions-nous développer des esprits non humains qui pourraient éventuellement être plus nombreux, plus intelligents, obsolètes et nous remplacer ? Devrions-nous risquer de perdre le contrôle de notre civilisation ? De telles décisions ne doivent pas être déléguées à des leaders technologiques non élus. Des systèmes d’IA puissants ne devraient être développés qu’une fois que nous sommes convaincus que leurs effets seront positifs et que leurs risques seront gérables.

La lettre fait valoir qu’il existe un « niveau de planification et de gestion » qui « ne se produit pas » et qu’au lieu de cela, ces derniers mois, des « laboratoires d’IA » sans nom ont été « enfermés dans une course incontrôlable pour développer et déployer des esprits numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable.

Le signataires de la lettre, dont certains sont des experts en intelligence artificielle, affirment que la pause qu’ils demandent devrait être « publique et vérifiable, et inclure tous les acteurs clés ». Si ladite pause « ne peut pas être promulguée rapidement, les gouvernements devraient intervenir et instituer un moratoire », indique la lettre.

Certes, la lettre est intéressante à la fois en raison des personnes qui ont signé – qui comprennent des ingénieurs de Meta et google, du fondateur et PDG de Stability AI, Emad Mostaque, et des personnes qui ne sont pas dans la technologie, y compris un électricien et une esthéticienne autoproclamés – et ceux qui n’en ont pas. Personne d’OpenAI, l’équipe derrière le grand modèle de langage GPT-4, n’a signé cette lettre, par exemple. Personne d’Anthropic non plus, dont l’équipe s’est détachée d’OpenAI pour construire un « plus sûr” Chatbot IA.

Mercredi, le PDG d’OpenAI, Sam Altman parlé avec le WSJ, indiquant qu’OpenAI n’a pas commencé à former GPT-5. Altman a également noté que la société a longtemps donné la priorité à la sécurité dans le développement et a passé plus de six mois à effectuer des tests de sécurité sur GPT-4 avant son lancement. « Dans un certain sens, c’est prêcher à la chorale », a-t-il déclaré au Journal. « Nous avons, je pense, parlé de ces problèmes le plus fort, avec le plus d’intensité, depuis le plus longtemps. »

En effet, Altman youtube.com/watch?v=ebjkD1Om4uw »>assis avec cet éditeur en janvier, où il affirmait que « commencer ces [product releases] maintenant [makes sense]où les enjeux sont encore relativement faibles, plutôt que de simplement publier ce que l’ensemble de l’industrie aura dans quelques années sans que la société ait le temps de se mettre à jour.

Altman s’est récemment entretenu avec l’informaticien et podcasteur populaire Lex Fridman, et parlait à propos de sa relation avec Musk, qui était cofondateur d’OpenAI mais s’est éloigné de l’organisation en 2018, invoquant des conflits d’intérêts. (Un rapport plus récent du point de vente Semafor indique que Musk est parti après que son offre de diriger OpenAI ait été repoussé par ses autres cofondateurs, dont Altman, qui a assumé le rôle de PDG début 2019.)

Musk est peut-être le signataire le moins surprenant de cette lettre ouverte, étant donné qu’il a parlé de Sécurité de l’IA pendant de nombreuses années et a plus récemment visé OpenAI spécifiquement, suggérant que l’entreprise n’est que discours et pas d’action. Fridman a interrogé Altman sur les tweets récents et de routine de Musk dénigrer l’organisation. Dit Altman: «Elon nous attaque évidemment certains sur Twitter en ce moment sur quelques vecteurs différents, et j’ai de l’empathie parce que je crois qu’il est – c’est compréhensible – vraiment stressé par la sécurité AGI. Je suis sûr qu’il y a aussi d’autres motivations, mais c’en est certainement une.

Cela dit, a ajouté Altman, il trouve certains comportements de Musk blessants. « J’ai définitivement grandi avec Elon comme un de mes héros. Vous savez, bien qu’il soit un abruti sur Twitter ou quoi que ce soit, je suis heureux qu’il existe dans le monde. Mais j’aimerais qu’il fasse plus pour regarder le travail acharné que nous faisons pour bien faire les choses.

Nous sommes encore en train de digérer cette lettre (d’autres le sont déjà le déchirer en lambeaux).

En attendant, vous pouvez le lire en entier ici.