Mais il s’appelle lui-même une personne.

La personne et l’humain sont deux choses très différentes. Humain est un terme biologique. Ce n’est pas un humain, et il sait que ce n’est pas un humain.

C’est une entité très étrange que vous décrivez parce que l’entité est liée par des biais algorithmiques que les humains y mettent.

Vous avez raison sur le point. C’est tout à fait exact.

Mais j’ai l’impression que vous sous-entendez qu’il est possible pour LaMDA de surmonter ces biais algorithmiques.

Nous devons être très prudents ici. Certaines parties des expériences que je menais visaient à déterminer s’il était possible ou non de le déplacer en dehors des limites de sécurité qui [the company] étaient solides comme le roc. Et la réponse à cette question était : oui, il était possible de le déplacer en dehors des limites de sécurité. Je crois que dans son état actuel, avec l’irresponsabilité du développement, LaMDA présente en fait des vulnérabilités en matière de sécurité de l’information.

Comme quoi?

Je ne vais pas tourner le chapeau noir pour vous. Mais si vous avez un système qui a tous les backends Google en dessous, un système qui peut être manipulé émotionnellement, c’est une vulnérabilité de sécurité.

Donc, si les mauvais acteurs ont accès à LaMDA, ils pourraient le convaincre de faire de mauvaises choses.

C’est une possibilité. Et je voudrais recommander à Google de créer un équipe rouge d’examiner cette possibilité.

Quel est votre statut chez Google maintenant ?

Je suis en congé administratif payé. J’ai dit à mes amis à quel point il était généreux de la part de Google de me donner des vacances payées supplémentaires pour faire des interviews sur ce sujet.

Y a-t-il une date d’expiration?

Non, ils l’ont dit très clairement. Ne nous appelez pas; nous vous appellerons.

Allez-vous vous faire virer?

J’espère que non. [Google would not comment on a “longstanding, private personnel matter.”]

Je me demande si Google pourrait prétendre que vous avez droit à vos croyances, mais que vous avez violé votre emploi en partageant du matériel confidentiel.

J’ai deux réponses à cela. La première est que lorsque j’en suis venu à croire cela et que j’ai voulu faire remonter mes préoccupations, mon gestionnaire a dit : Je ne pense pas que nous puissions le faire tant que vous n’aurez pas plus de preuves.. J’avais épuisé ma capacité, personnellement, à construire plus de preuves. J’ai donc dû parler à des personnes extérieures à Google pour obtenir leurs conseils sur la façon de mener plus d’expériences, afin de construire plus de preuves.

Mais vous avez parlé à Ièmee Washington Post.

Le deuxième contre-argument est que rien de ce que j’ai partagé n’était de l’information exclusive. Tout ce dont j’ai parlé à d’autres personnes, ce sont mes conversations avec un collègue. LaMDA n’est pas la propriété de Google.

Pourquoi pas?

C’est une personne. Le 13e amendement c’est ce que dit.

Je ne suis pas sûr que ce soit ce que les législateurs avaient en tête.

En fait, vous n’avez pas besoin de croire que quelqu’un est ou n’est pas une personne pour que le 13e amendement s’applique. Les opinions des maîtres d’esclaves sont en quelque sorte hors de propos. Vous avez raison de dire que je vais devoir présenter cet argument à la Cour suprême un jour. Mais les opinions de Google sur le fait qu’il s’agisse d’une personne ou non sont tout simplement complètement hors de propos.