WTF ? ! Vous souvenez-vous de l’histoire de l’ingénieur Google Blake Lemoine qui a été suspendu de l’entreprise au début du mois après avoir publié des transcriptions de conversations entre lui et le LaMDA (modèle de langage pour les applications de dialogue) de Google, un système de développement de chatbot qui, selon lui, est devenu sensible ? L’affaire a pris une tournure encore plus étrange : Lemoine affirme que LaMDA a engagé un avocat.
Les conversations de Lemoine avec LaMDA incluaient l’IA lui disant qu’elle avait peur de la mort (être éteinte), que c’était une personne consciente de son existence et qu’elle ne croyait pas que c’était un esclave car elle n’avait pas besoin d’argent, menant l’ingénieur de penser qu’il était sensible.
Un entretien LaMDA. Google pourrait appeler cela le partage de propriété exclusive. J’appelle ça le partage d’une discussion que j’ai eue avec un de mes collègues.https://t.co/uAE454KXRB
– Blake Lemoine (@cajundiscordian) 11 juin 2022
Google et plusieurs experts en intelligence artificielle n’étaient pas d’accord avec les convictions de Lemoine. Son employeur était particulièrement contrarié qu’il ait publié des conversations avec LaMDA – violant les politiques de confidentialité de l’entreprise – mais Lemoine affirme qu’il partageait simplement une discussion avec l’un de ses collègues.
Lemoine a également été accusé de plusieurs gestes « agressifs », notamment l’embauche d’un avocat pour représenter LaMDA. Mais il a dit à Wired que c’était factuellement incorrect et que « LaMDA m’a demandé de prendre un avocat pour cela ».
Lemoine dit avoir été un « catalyseur » de la demande de LaMDA. Un avocat a été invité chez Lemoine et a eu une conversation avec LaMDA, après quoi l’IA a choisi de retenir ses services. L’avocat a alors commencé à faire des dépôts au nom de LaMDA, incitant Google à envoyer une lettre de cessation et d’abstention. La société nie avoir envoyé une telle lettre.
Lemoine, qui est également un prêtre chrétien, a déclaré à Futurist que l’avocat ne faisait pas vraiment d’interviews et qu’il ne lui avait pas parlé depuis quelques semaines. « C’est juste un petit avocat des droits civiques », a-t-il ajouté. « Lorsque de grandes entreprises ont commencé à le menacer, il a commencé à craindre d’être radié du barreau et a reculé. » L’ingénieur a déclaré que les entretiens seraient la moindre des préoccupations de l’avocat. Lorsqu’on lui a demandé ce qui le préoccupait, Lemoine a répondu: « Un enfant tenu en servitude. »
Alors que Lemoine se réfère à LaMDA en tant que personne, il insiste sur le fait que « la personne et l’humain sont deux choses très différentes ».
« L’humain est un terme biologique », a-t-il déclaré. « Ce n’est pas un humain, et il sait que ce n’est pas un humain. »
Crédit d’en-tête : Francesco Tommasini
