Le professeur Stuart Russell, fondateur du Center for Human-Compatible Artificial Intelligence de l’Université de Californie à Berkeley, donne les conférences Reith de cette année.

Ses quatre conférences, Vivre avec l’intelligence artificielle, abordent la menace existentielle des machines plus puissantes que les humains – et offrent une voie à suivre.

Le mois dernier, il a parlé à Rory Cellan-Jones, alors correspondant technologique de BBC News, de ce à quoi s’attendre.

Les premières ébauches que je leur ai envoyées étaient beaucoup trop pointues, beaucoup trop centrées sur les racines intellectuelles de l’IA et les différentes définitions de la rationalité et comment elles ont émergé au cours de l’histoire et de choses comme ça.

Je me suis donc réajusté – et nous avons une conférence qui présente l’IA et les perspectives d’avenir à la fois bonnes et mauvaises.

Et puis, on parle d’armes et on parle d’emplois.

Et puis, le quatrième sera : « OK, voici comment nous évitons de perdre le contrôle des systèmes d’IA à l’avenir. »

Oui, ce sont les machines qui perçoivent et agissent et, espérons-le, choisissent les actions qui permettront d’atteindre leurs objectifs.

Toutes ces autres choses que vous lisez, comme l’apprentissage en profondeur et ainsi de suite, ce ne sont que des cas particuliers de cela.

Les thermostats perçoivent et agissent et, dans un sens, ils ont une petite règle qui dit : « Si la température est en dessous, allumez le chauffage.

« Si la température est supérieure à cela, éteignez le feu. »

C’est donc un programme trivial et c’est un programme qui a été entièrement écrit par une personne, donc il n’y a pas eu d’apprentissage impliqué.

Tout le long de l’autre extrémité – vous avez les voitures autonomes, où la prise de décision est beaucoup plus compliquée, où beaucoup d’apprentissage a été impliqué pour atteindre cette qualité de prise de décision.

Mais il n’y a pas de ligne dure et rapide.

Nous ne pouvons rien dire en dessous de cela ne compte pas comme IA et tout ce qui est au-dessus compte.

Dans la reconnaissance d’objets, par exemple, qui était l’une des choses que nous essayons de faire depuis les années 1960, nous sommes passés de complètement pathétique à surhumain, selon certaines mesures.

Et en traduction automatique, encore une fois, nous sommes passés de complètement pathétiques à vraiment très bons.

Si vous regardez ce que les fondateurs du domaine ont dit que leur objectif était, l’IA à usage général, ce qui ne signifie pas un programme qui est vraiment bon pour jouer au Go ou un programme qui est vraiment bon pour la traduction automatique, mais quelque chose qui peut faire à peu près tout ce qu’un humain pourrait faire et probablement beaucoup plus parce que les machines ont d’énormes avantages de bande passante et de mémoire par rapport aux humains.

Dis juste qu’on a besoin d’une nouvelle école.

Les robots allaient apparaître.

Les camions-robots, les robots de construction, le logiciel de gestion de la construction sauraient comment le construire, savaient comment obtenir des permis, savaient comment parler au district scolaire et au directeur pour trouver la bonne conception pour l’école, etc. – et une semaine plus tard, vous avez une école.

Je dirais que nous sommes assez loin.

De toute évidence, il reste encore des avancées majeures à faire.

Et je pense que le plus important concerne la prise de décision complexe.

Donc, si vous pensez à l’exemple de la construction d’une école – comment partons-nous de l’objectif que nous voulons une école, puis toutes les conversations ont lieu, et puis toute la construction a lieu, comment les humains font-ils cela ?

Eh bien, les humains ont la capacité de penser à plusieurs échelles d’abstraction.

Nous pourrions donc dire : « OK, eh bien, la première chose que nous devons déterminer, c’est où nous allons le mettre. Et quelle devrait être sa taille ? »

Nous ne commençons pas à penser si je dois bouger mon doigt gauche en premier ou mon pied droit en premier, nous nous concentrons sur les décisions de haut niveau qui doivent être prises.

Il y a deux arguments pour expliquer pourquoi nous devrions prêter attention.

La première est que même si nos algorithmes sont actuellement loin des capacités humaines générales, lorsque vous en avez des milliards en cours d’exécution, ils peuvent toujours avoir un très grand effet sur le monde.

L’autre raison de s’inquiéter est qu’il est tout à fait plausible – et la plupart des experts pensent très probable – que nous aurons une IA à usage général au cours de notre vie ou de celle de nos enfants.

Je pense que si l’IA à usage général est créée dans le contexte actuel de rivalité entre les superpuissances – vous savez, celui qui dirige l’IA dirige le monde, ce genre de mentalité – alors je pense que les résultats pourraient être les pires possibles.

Parce que je pense que c’est vraiment important et vraiment urgent.

Et la raison pour laquelle c’est urgent, c’est parce que les armes dont nous parlons depuis six ou sept ans commencent maintenant à être fabriquées et vendues.

Ainsi, en 2017, par exemple, nous avons produit un film intitulé Slaughterbots sur un petit quadricoptère d’environ 3 pouces [8cm] de diamètre qui transporte une charge explosive et peut tuer des gens en s’approchant suffisamment d’eux pour exploser.

Nous l’avons montré pour la première fois lors de réunions diplomatiques à Genève et je me souviens de l’ambassadeur de Russie ricanant, reniflant et disant : « Eh bien, vous savez, ce n’est que de la science-fiction, nous n’avons pas à nous soucier de ces choses pendant 25 ou 30 ans. « 

J’ai expliqué ce que mes collègues robotiques avaient dit, à savoir que non, ils pourraient assembler une arme comme celle-ci en quelques mois avec quelques étudiants diplômés.

Et le mois suivant, donc trois semaines plus tard, le constructeur turc STM [Savunma Teknolojileri Mühendislik ve Ticaret AŞ] a en fait annoncé le drone Kargu, qui est essentiellement une version légèrement plus grande du Slaughterbot.

Tout ce qui précède – je pense qu’un peu de peur est approprié, pas peur quand vous vous levez demain matin et pensez que mon ordinateur portable va me tuer ou quelque chose du genre, mais en pensant à l’avenir – je dirais le même genre de peur que nous avons sur le climat ou, plutôt, nous devrions avoir sur le climat.

Je pense que certaines personnes disent simplement : « Eh bien, ça ressemble à une belle journée aujourd’hui », et elles ne pensent pas à l’échelle de temps plus longue ou à l’image plus large.

Et je pense qu’un peu de peur est nécessaire, car c’est ce qui fait qu’on agit maintenant plutôt que d’agir quand il est trop tard, ce qu’on a d’ailleurs fait avec le climat.

Les conférences Reith sera sur BBC Radio 4, BBC World Service et BBC Sounds.