Une erreur cruciale

Dans le livre de Max Tegmark sur l’IA, Life 3.0, il commence par l’histoire d’une entreprise dont le PDG souhaite développer une IA super intelligente. Le but est de conquérir le monde.

Des parties de l’histoire sont très similaire à ce qui s’est passé depuis la publication du livre en 2017, mais avec une différence cruciale.

Phase 1 – gagner de l’argent

Dans le livre, le PDG nomme un groupe au sein de l’entreprise, The Omegas, pour travailler sur le projet et ils développent une IA, appelée Prometheus. Il est formé sur de grandes quantités de données, telles que Wikipédia et la Bibliothèque du Congrès, mais n’est pas directement connecté à Internet. Pour pouvoir se permettre de réaliser le plan, ils ont besoin d’argent.

Ils envisagent plusieurs options et décident finalement de créer une entreprise de médias :

« En fin de compte, ils avaient décidé de lancer une société de médias, en commençant par le divertissement animé. »

Prometheus commence à faire des films et des séries télévisées et devient rapidement plus populaire que Netflix. Ils utilisent l’argent, entre autres, pour brouiller les pistes. L’ensemble du projet est secret. Si quelqu’un découvre ce qu’il fait, cela peut être arrêté.

Alors que des milliards de dollars affluent à un rythme de plus en plus rapide, l’IA commence à créer des innovations et des produits. Ce qui, à son tour, génère encore plus d’argent.

« Des entreprises parvenues du monde entier lançaient de nouveaux produits révolutionnaires dans presque tous les domaines. »

Ces startups sont bien sûr créées par Prometheus.

Phase 2 – domination du monde

Maintenant commence la phase deux du plan.

« Les Omegas avaient lancé une société de médias non seulement pour financer leurs premières entreprises technologiques, mais aussi pour la prochaine étape de leur plan audacieux : conquérir le monde. »

Et c’est ce qui arrive. Par le biais d’une agence de presse, ils gagnent la confiance des gens et commencent alors à leur imposer leurs opinions. Le public est convaincu, et les politiciens d’Omega finissent par prendre le pouvoir dans tous les pays du monde.

« Pour la première fois, notre planète était dirigée par une seule puissance… »

Tout au long de la création d’une IA véritablement intelligente, qui a toujours fonctionné en secret.

La fiction de Tegmark est-elle devenue réalité ?

Comme mentionné, certaines parties de l’histoire sont similaires à ce qui s’est passé ces dernières années.

OpenAI est dirigé par un PDG qui souhaite créer une IA super intelligente. Ils ont créé une IA qui a été entraînée sur de grandes quantités de données mais qui est déconnectée d’Internet. Grâce à DALL-E et ChatGPT, ils créent du contenu multimédia.

Il semble donc que Max Tegmark avait raison ?

Non. Il y a une différence cruciale. OpenAI ne développe pas une IA en secret.

Ils auraient pu emprunter le même chemin que Les Omégas. Ils auraient pu créer secrètement GPT-3, 4, 5, etc. Ils auraient pu secrètement commencer à diffuser du contenu créé par leur IA. Ils auraient pu utiliser la fiction de Tegmark comme modèle. (Ils auraient été exposés, bien sûr, mais ils auraient pu essayer.)

Mais ils ne l’ont pas fait. Au lieu de cela, ils laissent n’importe qui utiliser leur IA – gratuitement.

Nous pouvons tous l’utiliser pour créer – et c’est une différence fondamentale.

De plus, OpenAI est loin d’être le seul. Ils sont actuellement en tête, mais Google sprinte pour les rattraper. Facebook a sa version. D’autres travaillent sur des solutions open-source. À mi-chemin mène en images.

C’est ainsi que fonctionne le développement. En ouverture. En compétition. C’est dans le monde de la fantaisie que des génies maléfiques complotent en secret pour dominer le monde – et réussissent.

Il se trouve que Max Tegmark révèle la faiblesse de ses arguments et de ceux des autres doomsters de l’IA : ils sous-estiment l’humanité.

Avec ces outils d’IA qui deviennent maintenant disponibles, nous créerons une quantité énorme de bien. Nous les utiliserons pour éviter et résoudre les problèmes, y compris les problèmes liés à l’IA. (Parce que des problèmes avec l’IA existent et continueront bien sûr d’exister.) Nous utiliserons les modèles d’IA étroits actuels pour comprendre comment nous pouvons développer au mieux l’intelligence artificielle générale de manière sûre et efficace. Et nous le ferons ouvertement.

Une « pause » pourrait sérieusement nuire au progrès.

Mais une petite pause ne ferait pas de mal, n’est-ce pas ?

Une pause de six mois peut sembler tentante et inoffensive. Ce n’est pas.

Premièrement, cela donnerait à la Chine et à d’autres mauvais acteurs une chance de rattraper leur retard. Vous vous souviendrez peut-être que beaucoup ont mis en garde contre la victoire de la Chine dans la course à l’IA et à quel point ce serait incroyablement mauvais. Et oui, ce serait mauvais s’ils le faisaient. L’IA est un outil puissant et c’est bien mieux si les versions phares se trouvent dans les démocraties.

Bien sûr, la Chine ne suspendrait aucun développement pendant que nous nous asseyons et nous tournons les pouces en matière d’IA. Ils ne s’arrêteraient pas non plus et n’attendraient pas s’ils prenaient les devants. C’est un danger concret et réel en ce moment. Pas quelque chose qui pourrait arriver dans le futur.

Deuxièmement, une pause pourrait devenir permanente. Le débat actuel sur l’IA rappelle celui des OGM. De nombreux chercheurs ont mis en garde contre les dangers et ont exigé des « pauses » et des moratoires. Les résultats étaient sérieux. L’UE a introduit un moratoire pluriannuel. Beaucoup croient encore que les OGM sont dangereux, même si aucun dommage causé par les OGM n’a jamais été observé.

La même chose peut arriver dans le domaine de l’IA. Puisque tant de personnes dans le public ont vu Terminator et d’autres films dystopiques, ils peuvent facilement imaginer des machines super intelligentes qui nous détruiront.

Après une pause de six mois, le développement de l’IA risque de s’arrêter ou de devenir considérablement plus lent. Beaucoup de ceux qui ont commencé à développer des choses sur le terrain hésiteraient. Les personnes qui ont commencé à utiliser les outils reculeraient. Le financement diminuerait.

Troisièmement, nous ralentissons tout le bien qui viendra de l’IA. Ce qui motive les progrès positifs plus que toute autre chose, ce sont les idées. Ce que font les derniers outils d’IA, c’est libérer une énorme quantité de créativité humaine. Nous utiliserons ces outils pour créer de nombreuses nouvelles opportunités et résoudre des problèmes difficiles. Imaginez comment nous pouvons l’utiliser pour résoudre le changement climatique.

En deux ans, nous sommes passés de savoir comment se replient 200 000 protéines à 200 million protéines. Merci à l’IA. Cela nous permet de mieux comprendre la vie sur Terre et de développer de nouveaux médicaments révolutionnaires. Imaginez si nous avions « mis en pause » le développement de l’IA il y a deux ans.

Imaginez quelles percées nous manquerions si nous le « mettions en pause » maintenant. Un grand nombre d’améliorations dans nos vies ne verraient pas le jour. Les idées importantes ne naissaient pas ou mourraient trop tôt. Un éventuel boom économique ne se produirait pas.

Bien sûr, des problèmes seront également créés avec l’IA. Mais la vague de bonnes idées l’emportera sur les mauvaises, comme cela a toujours été le cas.

Quatrièmement, le ralentissement des progrès est la plus grande menace à long terme pour la survie de l’humanité. Je laisserai ce dernier point à David Deutsch et à ce qu’il écrit dans Optimism, Pessimism and Cynicism.

On dit souvent que notre civilisation est entrée dans une ère de risques sans précédent dus aux effets secondaires néfastes du progrès. On dit que pour la première fois dans l’histoire, la civilisation mondiale, et même notre espèce, sont en danger à cause de la vitesse du progrès. Mais ce n’est pas le cas: ce risque a été avec nous tout au long de l’existence de notre espèce et est moins que jamais.

Toutes les espèces dont les membres avaient la capacité d’innover sont maintenant éteintes, sauf la nôtre, et les preuves génétiques montrent que c’était une affaire de courte durée. Toutes, et toutes les civilisations passées qui sont tombées, auraient pu être sauvées par une innovation plus rapide.

Non seulement le feu était toujours aussi dangereux que bénéfique, mais la roue l’était aussi. Une lance pourrait blesser ou tuer vos amis, pas seulement votre dîner. Avec les vêtements, il y avait non seulement une protection, mais aussi des poux de corps. Avec l’agriculture est venu non seulement un approvisionnement alimentaire plus fiable, mais aussi un travail dur et répétitif – et le pillage par des bandits affamés.

Chaque solution crée de nouveaux problèmes. Mais ils peuvent être de meilleurs problèmes. Les moindres maux. Des plaisirs de plus en plus grands.

Nous devrions considérer les problèmes et les dangers de l’IA et comment les éviter. Mais nous le faisons mieux en créant plus de connaissances et en développant des outils qui nous aident à mieux penser. Suspendre le développement est la chose la plus dangereuse que nous puissions faire en ce moment.

Nous devrions considérer les problèmes et les dangers de l’IA et comment les éviter. Mais nous le faisons mieux en créant plus de connaissances et en développant des outils qui nous aident à mieux penser. Suspendre le progrès est une chose dangereuse à faire.

Mathias Sundin L’optimiste en colère