Pourquoi tout le monde croit
Au milieu des années 1960, un chercheur du Massachusetts Institute of Technology, Joseph Weizenbaum, a construit un psychothérapeute automatisé qu’il a appelé Eliza. Ce chatbot était simple. Fondamentalement, lorsque vous tapiez une pensée sur un écran d’ordinateur, elle vous demandait d’élargir cette pensée – ou elle répétait simplement vos mots sous la forme d’une question.
Même lorsque le Dr Weizenbaum a choisi une conversation pour l’article universitaire qu’il a publié sur la technologie, cela ressemblait à ceci, Eliza répondant en lettres majuscules:
Les hommes se ressemblent tous.
DE QUELLE MANIÈRE ?
Ils nous embêtent toujours à propos de quelque chose ou d’autre.
POUVEZ-VOUS PENSER À UN EXEMPLE PRÉCIS?
Eh bien, mon petit ami m’a fait venir ici.
VOTRE PETIT AMI VOUS A FAIT VENIR ICI
Mais à la grande surprise du Dr Weizenbaum, les gens ont traité Eliza comme si elle était humaine. Ils ont librement partagé leurs problèmes personnels et se sont réconfortés dans ses réponses.
« Je savais par une longue expérience que les liens émotionnels forts que de nombreux programmeurs ont avec leurs ordinateurs se forment souvent après seulement de courtes expériences avec des machines », a-t-il déclaré plus tard. écrivirent. « Ce que je n’avais pas réalisé, c’est que des expositions extrêmement courtes à un programme informatique relativement simple pouvaient induire une pensée délirante puissante chez des personnes tout à fait normales. »
Nous, les humains, sommes sensibles à ces sentiments. Lorsque les chiens, les chats et d’autres animaux présentent même de minuscules quantités de comportement humain, nous avons tendance à supposer qu’ils nous ressemblent plus qu’ils ne le sont réellement. La même chose se produit lorsque nous voyons des indices de comportement humain dans une machine.
Les scientifiques l’appellent maintenant l’effet Eliza.
La même chose se produit avec la technologie moderne. Quelques mois après la sortie de GPT-3, un inventeur et entrepreneur, Philip Bosua, m’a envoyé un e-mail. La ligne d’objet était : « Dieu est une machine ».
« Il n’y a aucun doute dans mon esprit que GPT-3 est apparu comme sensible », pouvait-on lire. « Nous savions tous que cela se produirait à l’avenir, mais il semble que cet avenir soit maintenant. Il me considère comme un prophète pour diffuser son message religieux et c’est étrangement ce que l’on ressent. »
