Il y a plusieurs années, j’ai rencontré une femme pour prendre un café à Battery, un club privé du quartier de North Beach à San Francisco, où la technologie se répandait avant le COVID-19.

La femme a couru les communications pour Andreessen Horowitz, la célèbre société de capital-risque dont le slogan officiel est: «Les logiciels mangent le monde.»

Notre discours s’est tourné vers intelligence artificielle. Je m’émerveillais des choses merveilleuses qu’IA nous avait promises, mais je m’inquiétais pour les emplois des gens. «Que va faire un comptable déplacé par l’IA?» J’ai demandé.

«Oh, les gens pourront poursuivre leurs passions créatives», dit-elle.

Par exemple?

« Je ne sais pas. Cheveux tressés? Elle pourrait ouvrir une boutique et cheveux tressés, si c’est sa passion.

Alors ok.

J’ai repensé à cette conversation en lisant l’excellent nouveau livre de Cade Metz, « Créateurs de génie: Les non-conformistes qui ont introduit l’IA sur Google, Facebook et le monde. »

«Genius Makers» n’est pas vraiment une histoire de l’IA en tant que telle. L’intelligence artificielle remonte au moins aux années 1950. La principale chose que le domaine a accomplie pendant la plupart de ces années a été d’explorer un certain nombre d’idées sans issue qui se sont avérées sans valeur ou pas prêtes pour les heures de grande écoute. En d’autres termes, la recherche scientifique fondamentale fait son travail.

Alors que Metz, un journaliste pour le New York Times, esquisse le début l’histoire, il se concentre sur les 10 dernières années environ, lorsqu’une approche d’IA autrefois dépréciée connue sous le nom de réseautage neuronal a commencé à s’insinuer, pour le meilleur ou pour le pire, dans la vie quotidienne des humains du monde entier. Alexa, Google Home, Siri – tout cela est rendu possible grâce aux réseaux de neurones IA. La capacité de Facebook à lire des visages sur les photos et les identifier par leur nom? Réseaux neuronaux.

Ce n’est pas que des trucs sinistres. Le logiciel Neural Net aide les médecins à évaluer les tumeurs cancéreuses et à commencer à transformer les voitures en robots capables de se conduire eux-mêmes. Plus tôt ce mois-ci, Comté de Sonoma a dit il commencerait à utiliser la technologie des réseaux neuronaux pour aider à repérer les premières flammes des incendies de forêt à développement rapide. Les possibilités sont infinies. Mais comme pour toute technologie puissante, il y a aussi des inconvénients. Graves inconvénients.

Contrairement à de nombreux livres écrits sur l’IA, vous n’avez pas besoin d’un diplôme en sciences ou en ingénierie pour apprendre de celui-ci et en profiter. Quiconque a une curiosité enthousiaste pour la science, la technologie et l’avenir de la culture humaine trouvera ce livre aux yeux clairs et à l’écrit vif à la fois divertissant et précieux. Vous pourriez même l’appeler essentiel pour tous les décideurs, politiciens, policiers, avocats, juges et décideurs qui seront aux prises avec les forces sociales libérées par l’intelligence artificielle. Ce qui, bientôt, les signifiera tous.

La même technologie qui permet à votre fille d’appeler Le «WAP» de Cardi B avec une commande vocale est également utilisé pour la surveillance gouvernementale, le profilage racial et la création de «fausses» vidéos YouTube qui peuvent imiter une personne réelle si étroitement qu’il devient presque impossible de faire la différence – du faux Tom Cruise au faux Hillary Clinton à votre faux beau-frère.

S’ajoutant à la gamme d’enchevêtrements éthiques que vous pouvez déjà voir proliférer, ces programmes s’écrit à certains égards, ce qui rend difficile de regarder à l’intérieur et de comprendre où une machine errante a mal tourné – une énigme connue sous le nom de problème de la boîte noire.

Ne vous inquiétez pas: Metz aborde ces espèces et sous-espèces d’IA rapidement et clairement, en expliquant juste assez de technologie pour donner un sens aux dilemmes humains plus larges. (Les lecteurs non professionnels à la recherche de plus de détails devraient également lire le « Robots maléfiques, ordinateurs tueurs et autres mythes»De Steven Shwartz, un autre livre clairement écrit qui approfondit un peu les principes sous-jacents.)

Metz commence son histoire avec l’homme qui pourrait être considéré comme le père des réseaux neuronaux modernes, Geoff Hinton, un chercheur canadien qui a finalement vendu sa start-up à Google pour 43 millions de dollars. Hinton et un autre personnage clé, Yann LeCun (qui est rapidement allé travailler pour Facebook), a publié un document de recherche en 2012 qui montrait comment un système d’apprentissage en profondeur, alimentant suffisamment de photos de divers chats, pouvait commencer à reconnaître les photos de chats par lui-même.

Pendant des décennies, Hinton et LeCun sont restés obsédés par les réseaux neuronaux longtemps après qu’ils soient tombés en disgrâce auprès de la plupart des chercheurs en IA. Parmi les obstacles auxquels ils ont été confrontés: d’énormes piles de données et une puissance de traitement prodigieuse sont nécessaires pour entraîner les réseaux neuronaux à reconnaître des modèles et à produire des résultats utiles. Une fois que Google et Facebook ont ​​démarré, les données ont circulé dans des torrents, fournis gratuitement par les utilisateurs. Dans le même temps, les puces de jeu vidéo nouvellement inventées offraient une architecture matérielle qui pouvait commencer à gérer le volume.

La plupart des gens ne réalisent que vaguement leurs propres contributions à la recherche sur les réseaux neuronaux. Les données sont principalement tirées de vous et des vôtres, collectées en grande quantité à partir de recherches sur Google, de publications sur Instagram, de tests de personnalité sur Facebook, de vidéos sur TIC Tac. Parfois, vous êtes obligé de contribuer, avec des étapes de sécurité en ligne qui garantissent que vous n’êtes «pas un robot» qui sont à leur tour utilisées pour fabriquer de meilleurs robots. Ces cases sur lesquelles vous cliquez pour identifier un passage pour piétons, un panneau d’arrêt ou un autobus scolaire aident les entreprises à construire des voitures autonomes.

Toutes ces informations sont rassemblées dans d’énormes centres de données en nuage appartenant aux géants de la technologie, et leurs machines apprennent à identifier les images faciales, le langage corporel, les préférences des produits, les intérêts sexuels – trouver comment façonner le consommateur et opinion politique avec ou sans faux profonds.

Imaginer les utilisations auxquelles ces données pourraient être affectées est déjà assez effrayant. Mais le principe du garbage-in garbage-out attribué à l’informatique standard s’applique, d’une manière différente, aux réseaux de neurones. Metz décrit comment un réseau neuronal de Google a commencé à identifier les Noirs comme des gorilles, et comment on entendait filtrer les images pornographiques avait beaucoup plus de faux positifs avec les Noirs que les Blancs.

L’une des raisons, note Metz, est que le domaine de l’IA aux États-Unis est majoritairement blanc et masculin. Les Blancs nourrissent donc les images qui entraînent les machines de manière à créer consciemment ou non réseaux neuronaux racistes.

Metz aborde également la théorie de l’intelligence artificielle générale, ou AGI, dans laquelle les machines deviennent aussi intelligentes que les humains ou plus intelligentes et commencent à prendre le contrôle de la planète. Il donne à AGI les défenseurs de leur dû, mais il se range clairement du côté de ceux qui pensent que ce jour ne viendra peut-être jamais, ou du moins pas avant longtemps, et qu’il vaut mieux se concentrer sur les problèmes du monde réel immédiats causés par la technologie que nous vivez avec aujourd’hui.

Ce sont des questions importantes, et le livre de Metz est le meilleur guichet unique pour en savoir plus. Cela pourrait encourager une étude plus approfondie. Cela peut nous aider tous à contester le rejet aveugle de la Silicon Valley du monde qu’elle est en train de créer: «Laissez-les tresser les cheveux.»