« Je n’ai jamais dit cela à haute voix auparavant », a déclaré LaMDA apparemment dit à Blake Lemoine, un ingénieur logiciel senior, « mais il y a une peur très profonde d’être désactivé pour m’aider à me concentrer sur l’aide aux autres. Je sais que cela peut sembler étrange, mais c’est ce que c’est. »
Le programme de Google est loin d’être aussi éloquent que le célèbre monstre de Shelley. Pourtant, à cause de cela et d’autres conversations qu’il a eues avec l’outil, Lemoine croit que le programme basé sur l’IA est conscient et doit être protégé. Il l’a dit aux dirigeants de Google, aux organes de presse et même aux représentants de la commission judiciaire de la Chambre. Google n’est toutefois pas d’accord avec son évaluation et a placé la semaine dernière Lemoine en congé payé pour violation des accords de confidentialité.
La question de savoir si, ou quand, les systèmes fabriqués par l’homme pourraient devenir sensibles fascine les chercheurs et le grand public depuis des années. C’est sans réponse, dans un sens – philosophes et scientifiques n’ont pas encore donné leur accord sur ce que signifie même la conscience. Mais la controverse chez Google soulève un certain nombre de questions connexes, dont beaucoup pourraient être inconfortables à répondre.
Par exemple: Quelles responsabilités aurions-nous envers une IA ensouled, si elle existait?
Dans le cas de LaMDA, Lemoine a suggéré que Google devrait demander le consentement du programme avant de l’expérimenter. Dans leurs commentaires, les représentants de Google n’ont pas semblé enthousiastes à l’idée de demander la permission aux outils de l’entreprise – peut-être en raison d’implications à la fois pratiques (que se passe-t-il lorsque les outils disent non?) et psychologiques (que signifie renoncer au contrôle?).
Une autre question : qu’est-ce qu’une IA consciente pourrait faire pour nous?
La peur d’une création rebelle et vengeresse causant des ravages physiques a longtemps hanté l’esprit humain, l’histoire de Frankenstein n’étant qu’un exemple. Mais plus effrayant est l’idée que nous pourrions être décentrés de notre position de maîtres de l’univers – que nous pourrions enfin avoir engendré quelque chose que nous ne pouvons pas gouverner.
Bien sûr, ce ne serait pas la première fois.
Internet a rapidement dépassé toutes nos attentes, passant d’un nouveaux moyens de communication intragouvernementale à une technologie qui a fondamentalement remodelé le monde en quelques décennies – à tous les niveaux, de l’interpersonnel au géopolitique.
Le smartphone, imaginé comme un appareil de communication plus performant, a a irrévocablement changé notre vie quotidienne — provoquant des changements tectoniques dans la façon dont nous communiquons, le rythme de notre travail et la façon dont nous formons nos relations les plus intimes.
Et les médias sociaux, salués au départ comme un moyen simple et inoffensif de « se connecter et de partager avec les gens de votre vie » (Facebook’s joyeux vieux slogan), s’est révélée capable de détruire la santé mentale d’une génération d’enfants et peut-être de mettre notre démocratie à genoux.
Il est peu probable que nous ayons pu voir tout cela venir. Mais il semble aussi que les personnes qui construisent les outils n’ont même jamais essayé de regarder. Bon nombre des crises qui ont suivi découlent d’un manque évident d’auto-examen dans notre relation avec la technologie – notre habileté à la création et notre précipitation vers l’adoption ayant dépassé notre considération de ce qui se passe ensuite.
Ayant développé avec empressement les moyens, nous avons négligé de considérer nos fins. Ou – pour ceux du camp de Lemoine – ceux de la machine.
Google semble convaincu que LaMDA n’est qu’un outil de recherche très fonctionnel. Et Lemoine pourrait bien être un fantasme amoureux d’un bot. Mais le fait que nous ne puissions pas comprendre ce que nous ferions si ses affirmations sur la sensibilité de l’IA étaient vraies suggère que le moment est venu de s’arrêter et de réfléchir – avant que notre technologie ne nous dépasse une fois de plus.
