Tout d’abord, il y a eu HAL-9000 et The Terminator. Maintenant, le chatbot LaMDA de Google?
La semaine dernière, Google suspendu un ingénieur pour avoir enfreint la politique de confidentialité de l’entreprise, après avoir révélé publiquement sa conviction que le chatbot IA laMDA du géant de la recherche avait sentience atteinte. Cela a ouvert la porte à de nombreuses blagues – et à des rires nerveux – sur les ordinateurs sensibles mortels qui font partie de la culture populaire depuis des décennies, de « 2001: L’Odyssée de l’espace » à « Terminator ».
Mais vous n’avez pas à vous inquiéter: la plupart Les experts en IA sont d’accord qu’un programme informatique sensible réel est probablement encore dans quelques décennies.
« Il y a un tas de percées qui doivent se produire » Erik Brynjolfsson, chercheur principal à l’Institut de Stanford pour l’IA centrée sur l’humain et directeur du laboratoire d’économie numérique de l’école, a déclaré à CNBC Make It. [is more likely] … Avoir une IA prétendant être sensible va se produire bien avant qu’une IA ne soit réellement sentiente. »
Quelques noms technologiques notables – y compris le PDG de Meta Mark Zuckerberg — insistent sur le fait que les progrès de l’IA pourraient être un développement très positif pour l’humanité, en particulier dans des domaines tels que les soins de santé et les transports. D’autres ne sont pas d’accord: Tesla et le PDG de SpaceX, Elon Musk, par exemple, a appelé IA « un risque fondamental pour l’existence de la civilisation humaine ».
Quel que soit le camp dans lequel vous tombez, il est prudent de convenir qu’une véritable intelligence artificielle sensible est une possibilité fascinante.Mais à quoi cela ressemblera-t-il – et devrait-il ressembler ?
Nos cerveaux sont câblés pour voir l’IA sensible, même si elle n’existe pas encore
Dans un tweet du 12 juin, Brynjolfsson a écrit que la croyance de l’ingénieur de Google en la sensibilité de LaMDA était « l’équivalent moderne du chien qui entendait une voix d’un gramophone et pensait que son maître était à l’intérieur ».
« Comme pour le gramophone, ces modèles puisent dans une véritable intelligence: le grand corpus de texte qui est utilisé pour entraîner le modèle avec des séquences de mots statistiquement plausibles », a écrit Brynjolfsson. Le modèle recrache ensuite ce texte sous une forme réarrangée sans réellement « comprendre » ce que [it’s] dire. »
Les propres technologues de Google sont catégoriques que le chatbot de l’entreprise n’est pas devenu sensible et que le logiciel est simplement assez avancé pour imiter et prédire les modèles de parole humaine d’une manière censée se sentir réelle. Brynjolfsson dit que ce n’est pas surprenant: Nos cerveaux sont câblés imprégner des objets ou des animaux non humains de la conscience humaine comme moyen de créer des liens sociaux.
« Les humains sont très sensibles à l’anthropomorphisation des choses », dit-il. « Si vous peignez un visage souriant sur un rocher, beaucoup de gens auront ce sentiment dans leur cœur que ce rocher est plutôt heureux. »
Lorsqu’il s’agit de juger de la sensibilité réelle de l’IA, les experts disent que les progrès de l’IA devront être jugés en fonction de tâches spécifiques et de la façon dont les ordinateurs ou les machines peuvent les exécuter par rapport aux humains. En 2017, un sondage de l’Université d’Oxford de plus de 350 experts en IA ont constaté qu’ils prédisaient que l’IA surpasserait les humains dans certaines tâches – traduire des langues, écrire un essai, même conduire un camion – avant 2030.
D’autres tâches prendront probablement beaucoup plus de temps: les experts ont prédit que l’IA ne sera pas capable de surpasser les humains pour écrire un roman à succès avant 2049 ou effectuer une intervention chirurgicale avant 2053.
Comment l’IA pourrait encore mal tourner, du remplacement des travailleurs humains aux « robots d’abattage »
Il y a encore beaucoup de raisons de s’inquiéter de l’avenir de l’IA et de son impact sur les humains. À court terme, Brynjolfsson dit qu’à mesure que les chatbots comme LaMDA deviennent plus courants, les gens pourraient commencer à les utiliser de manière malveillante: Hackers ou autres mauvais acteurs pourrait créer des millions de robots réalistes qui passent pour des humains, et les utiliser pour perturber les systèmes politiques et économiques à travers le monde.
Les régulateurs pourraient vouloir commencer à envisager des lois forçant les programmes d’IA à révéler qu’ils sont des machines lorsqu’ils sont engagés avec un humain, Brynjolfsson dit: « C’est juste un combat injuste parce que vous pouvez lancer un programme et générer un million de robots qui argumentent dans un cas, et les humains ne peuvent pas suivre. »
Brynjolfsson souligne également le type d’armement autonome qui est déjà en cours de développement par les superpuissances mondiales, les soi-disant « robots de massacre » qui les experts mettent en garde pourrait facilement être utilisé à des fins horribles.
« Vous n’avez pas besoin d’être super créatif pour imaginer comment cela pourrait mal tourner », dit-il.
À long terme, Brynjolfsson fait écho à l’une des préoccupations de Musk: que l’IA soit améliorée les machines pourraient un jour remplacer les humains. Une partie de le problème, dit le chercheur de Stanford, est que la recherche actuelle sur l’IA est trop axée sur l’utilisation de l’IA pour reproduire l’intelligence humaine, plutôt que d’essayer d’augmenter ou d’améliorer le comportement humain.
Ce dernier pourrait théoriquement aider à renforcer les travailleurs humains et leurs compétences, comme les assistants numériques alimentés par l’IA qui aident déjà les employés du service client à répondre plus efficacement aux appels des clients. (Brynjolfsson lui-même est un conseiller pour l’une de ces plates-formes, appelée Crête.)
Suivre cette voie pourrait rendre les travailleurs plus productifs et « créer beaucoup plus de richesse » d’une manière largement accessible, dit Brynjolfsson. « En fin de compte, des milliards de vies seront affectées – et leurs moyens de subsistance – en fonction de la voie que nous emprunterons. »
Inscrivez-vous maintenant : Soyez plus intelligent au sujet de votre argent et de votre carrière avec notre bulletin hebdomadaire
À ne pas manquer :
Mark Cuban prédit que l’IA dominera le futur lieu de travail
