Alors que l’IA générative a explosé en popularité au cours des derniers mois, les préoccupations concernant la désinformation et les autres impacts de la technologie augmentent. Cette semaine, le « parrain de l’IA » Geoffrey Hinton a quitté son poste chez Google, inquiet que personne ne puisse plus dire « ce qui est vrai ».

Geoffrey Hinton est considéré comme un « parrain de l’IA », comme l’une des principales personnes qui ont jeté les bases de l’IA dont nous voyons l’impact aujourd’hui. Hinton, aux côtés de deux autres, a remporté un prix Turing en 2018 pour ce travail. Depuis 2013, Hinton travaille dans un poste chez Googlemais vient de remettre sa démission.

Dans une interview avec Le New York Times, Hinton a exprimé ses inquiétudes quant au fait que le rythme rapide des entreprises technologiques qui lancent des produits d’IA génératifs « se précipite vers le danger ». Il a ajouté :

Regardez comment [AI] c’était il y a cinq ans et comment c’est maintenant. Prenez la différence et propagez-la vers l’avant. C’est effrayant.

Hinton a quitté son poste chez Google pour lui permettre de discuter ouvertement des dangers de l’IA. Avant de quitter Google, Hinton a eu une conversation directement avec le PDG Sundar Pichai, mais les détails de cette conversation n’ont pas été divulgués publiquement.

Dans le NYT interview, Hinton a déclaré que Google était considéré comme un « intendant » pour l’IA, mais le jeu a changé depuis. La décision rapide de Microsoft d’intégrer le GPT-4 d’OpenAI dans Bing, avec un succès retentissant, a conduit Google à fournir une technologie similaire dans ses propres produits. Hinton dit qu’une telle concurrence pourrait être « impossible à arrêter ».

La préoccupation immédiate du point de vue de Hinton est la désinformation, affirmant que le faux texte, les images et les vidéos créés par l’IA inondant Internet conduiront les personnes moyennes « non [being] capable de savoir ce qui est vrai. Une autre préoccupation que Hinton partage avec beaucoup est que les produits d’IA finiront par « bouleverser » le marché du travail, remplaçant éventuellement des rôles tels que « parajuristes, assistants personnels, traducteurs » et autres. La tendance de l’IA à apprendre un comportement inattendu, comme générer et exécuter son propre code, est une autre chose qu’il craint maintenant. Il ajoute également :

L’idée que ce truc pourrait en fait devenir plus intelligent que les gens – quelques personnes le croyaient. Mais la plupart des gens pensaient que c’était loin. Et je pensais que c’était loin. Je pensais que c’était dans 30 à 50 ans ou même plus. Evidemment, je n’y pense plus.

En fin de compte, Geoffrey Hinton dit qu’il regrette maintenant le travail de sa vie.

Dans un tweeterHinton a déclaré que Google avait « agi de manière très responsable » avec l’IA jusqu’à présent, et a précisé que son départ de Google n’était pas pour critiquer l’entreprise, mais plutôt les dangers de l’IA dans son ensemble sans se soucier de l’impact de ses déclarations sur Google.

En savoir plus sur l’IA :