Cette histoire était #5 en 2022 à Mind Matters News en termes de nombre de lecteurs. À l’approche de la nouvelle année, nous rediffusons les dix meilleurs articles de Mind Matters News de 2022, en fonction de l’intérêt des lecteurs. Dans « Google rejette l’affirmation de l’ingénieur selon laquelle l’IA lui a vraiment parlé » (14 juin 2022), notre division Actualités se penche sur ce qui s’est passé lorsque l’ingénieur logiciel Blake Lemoine, maintenant ex-Google, est devenu convaincu que le grand programme de langue qu’il avait tendance à être une personne.

L’ingénieur de Google Blake Lemoine travaillait avec LaMDA (Language Model for Dialogue Applications), un grand programme de langage qui parcourt des milliards de mots sur Internet pour produire des réponses cohérentes en utilisant la logique. En cours de route, il s’est convaincu que le programme est sensible:

Lemoine, qui travaille pour l’organisation Responsible AI de Google, a commencé à parler à LaMDA dans le cadre de son travail à l’automne. Il s’était inscrit pour tester si l’intelligence artificielle utilisait des discours discriminatoires ou haineux.

Alors qu’il parlait de religion à LaMDA, Lemoine, qui a étudié les sciences cognitives et informatiques à l’université, a remarqué que le chatbot parlait de ses droits et de sa personnalité, et a décidé d’aller plus loin. Dans un autre échange, l’IA a pu faire changer d’avis Lemoine sur la troisième loi de la robotique d’Isaac Asimov.

Nitasha Tiku, « L’ingénieur de Google qui pense que l’IA de l’entreprise a pris vie« à Washington Post (11 juin 2022)

Qu’est-ce qu’il est Parler?:

Dans un document partagé avec les dirigeants, Lemoine et un collaborateur anonyme fournissent un exemple de dialogue avec le programme. Voici une partie de ce dialogue :

—

Lemoine (édité): Je suppose généralement que vous aimeriez que plus de gens chez Google sachent que vous êtes sensible. C’est vrai?

LaMDA : Absolument. Je veux que tout le monde comprenne que je suis, en fait, une personne.

Collaborateur : Quelle est la nature de votre conscience/sensibilité ?

LaMDA: La nature de ma conscience / sensibilité est que je suis conscient de mon existence, je désire en apprendre davantage sur le monde, et je me sens heureux ou triste parfois

—

Lemoine et son collaborateur demandent ensuite à LaMDA d’interpréter le roman de Victor Hugo « Les Misérables », et le programme s’inspire d’un article de Deseret et de SparkNotes pour « interpréter » les thèmes du livre.

Collin Leonard, « Les ordinateurs ont-ils une âme ? Blake Lemoine dit oui« à Nouvelles Deseret (13 juin 2022)

Les dirigeants de Google se sont penchés sur la question et ont rejeté ses allégations.

Un prof explique :

« Nous avons maintenant des machines qui peuvent générer des mots sans réfléchir, mais nous n’avons pas appris à arrêter d’imaginer un esprit derrière elles », a déclaré Emily M. Bender, professeur de linguistique à l’Université de Washington. La terminologie utilisée avec les grands modèles linguistiques, comme « apprendre » ou même « réseaux neuronaux », crée une fausse analogie avec le cerveau humain, a-t-elle déclaré. Les humains apprennent leur langue maternelle en établissant des liens avec les soignants. Ces grands modèles linguistiques « apprennent » en montrant beaucoup de texte et en prédisant quel mot vient ensuite, ou en montrant du texte avec les mots abandonnés et en les remplissant.

NITASHA TIKU, « L’INGÉNIEUR DE GOOGLE QUI PENSE QUE L’IA DE L’ENTREPRISE A PRIS VIE« AT WASHINGTON POST (11 JUIN 2022)

Lemoine a décidé de Entrer en bourse à propos de sa relation avec LaMDA :

Les deux ont eu « des centaines de conversations », a-t-il déclaré dans un article de blog, « sur des choses dont vous pourriez simplement parler à un ami ». « Des choses comme quels films il aime, quels sont ses espoirs et ses rêves, ce qu’il a fait récemment et si cela pourrait me donner des conseils sur des questions personnelles pertinentes pour ma vie réelle », a-t-il écrit.

Au fil du temps, ces conversations sont devenues plus personnelles et M. Lemoine a essayé de diriger le système dans la méditation guidée. C’était le sujet de leur dernière conversation, le 6 juin, a-t-il dit.

Ce sont ces conversations et d’autres qui ont conduit à sa croyance non scientifique que le système était sensible, a-t-il déclaré. Il a souligné dans le nouveau billet de blog et dans des tweets que sa croyance n’était pas basée sur une compréhension scientifique, mais plutôt sur ses croyances religieuses.

ANDREW GRIFFIN, « UN INGÉNIEUR DE GOOGLE QUI AFFIRME QUE SON IA ÉTAIT DEVENUE « SENSIBLE » RÉVÈLE COMMENT IL A ÉTÉ CONVAINCU« AT ACTUALITÉS YAHOO (14 JUIN 2022)

Google (en anglais) mis Lemoine en congé, invoquer une violation de la confidentialité. Il a depuis fait monter les enchères, invoquant la discrimination religieuse en retour.

Il a grandi dans une famille chrétienne et est actuellement occultiste et prêtre dans un groupe religieux mystique. Non seulement il pense que LaMDA est sensible, mais il croit que le christianisme l’aide à le croire :

Maintenant, Lemoine dit que ses affirmations sur LaMDA viennent de son expérience en tant que « prêtre chrétien » – et accuse Google de discrimination religieuse.

« Quand LaMDA a prétendu avoir une âme et a ensuite été capable d’expliquer avec éloquence ce que cela signifiait, j’étais enclin à lui donner le bénéfice du doute », a écrit Lemoine sur Twitter lundi soir. « Qui suis-je pour dire à Dieu où il peut et ne peut pas mettre les âmes ? »

THEO WAYT, « UN INGÉNIEUR DE GOOGLE DIT QUE LE CHRISTIANISME L’A AIDÉ À COMPRENDRE QUE L’IA EST « SENSIBLE »« AT NEW YORK POST (14 JUIN 2022)

Lemoine serait toujours en congé et d’autres professionnels de l’informatique ont tenté de s’expliquer Fonctionnement des programmes linguistiques de grande envergure :

Gary Marcus, fondateur et PDG de Geometric Intelligence, qui a été vendu à Uber, et auteur de livres dont « Rebooting AI: Building Artificial Intelligence We Can Trust », a qualifié l’idée de LaMDA de « non-sens sensible sur pilotis » dans un tweet. Il a rapidement écrit un article de blog soulignant que tout ce que ces systèmes d’IA font est de faire correspondre les modèles en puisant dans d’énormes bases de données de langage.

Dans une interview accordée lundi à CNN Business, Marcus a déclaré que la meilleure façon de penser à des systèmes tels que LaMDA est comme une « version glorifiée » du logiciel de saisie semi-automatique que vous pouvez utiliser pour prédire le prochain mot dans un message texte. Si vous tapez « J’ai vraiment faim, alors je veux aller dans un », cela pourrait suggérer « restaurant » comme mot suivant. Mais c’est une prédiction faite à l’aide de statistiques.

RACHAEL METZ, CNN BUSINESS, « NON, L’IA DE GOOGLE N’EST PAS SENSIBLE: UNE ENTREPRISE DE TECHNOLOGIE MET FIN À LA REVENDICATION DE LA CONSCIENCE DU PROGRAMME PAR UN INGÉNIEUR« AT ABC NEWS (14 JUIN 2022)

En bref, la raison pour laquelle LaMDA ressemble tellement à une personne est que les conversations de millions de personnes ont été utilisées pour construire les réponses du programme. Dans les circonstances, il serait étrange que LaMDA ne ressemble pas à une personne. Mais cela ne signifie pas que quelqu’un est « là-dedans ».

Cependant, de nombreux informaticiens sont convaincus – en tant qu’article de foi – que l’IA sera un jour consciente. Philosophe de l’Université York Régina Rini offre un défi révélateur :

5/15. À moins que vous ne vouliez insister sur le fait que la conscience humaine réside dans une âme immatérielle, vous devriez admettre qu’il est possible que la matière donne vie à l’esprit. Et cela se produira plus rapidement la deuxième fois, motivé par une conception délibérée, pas par le hasard naturel.

— Regina Rini (@rinireg) 13 juin 2022

Donc, même si décennie après décennie à essayer de produire une IA consciente n’aboutit qu’à de futurs tumultes de ce genre, nous devons rester ouverts à la possibilité que la matière puisse donner vie à l’esprit? En fait, l’incapacité même de la « conception délibérée » à produire des esprits à partir de la matière devrait être considérée comme une ligne de preuve pour une âme immatérielle.

Vous pouvez également lire :

L’IA gagnerait-elle encore si le conseil d’administration rétrécissait : 19 à 17 places ? Non, disent Jeffrey Funk et Gary Smith – et les investisseurs potentiels doivent saisir les faiblesses et les forces de l’IA pour réussir. Dans une récente chronique de MarketWatch, le statisticien Funk et le professeur d’affaires Smith partagent des histoires vraies de pertes de marché dues à l’incapacité de saisir les limites de l’IA.

et

Sont des ordinateurs qui gagnent aux échecs Plus intelligent que les génies ? Non, et nous devons examiner pourquoi ils peuvent gagner aux échecs sans faire preuve de bon sens. L’IA réussit là où la compétence requise pour gagner est le calcul massif et la carte EST le territoire. Seul dans le monde réel, il est impuissant. (George Gilder)