L’intelligence artificielle était une chose, mais pas le Quand Eric Schmidt est devenu PDG de Google en 2001. Seize ans plus tard, lorsqu’il a démissionné de son poste de président exécutif de la société mère de Google, Alphabet, le monde avait changé. S’exprimant à l’Université de Princeton cette année-là, Schmidt a déclaré que nous sommes dans « le siècle de l’IA ». »

Schmidt, qui a récemment présidé le Commission de sécurité nationale sur l’intelligence artificielle, et professeur d’informatique au MIT Alexandre Madry discuté de la façon dont cette transition devrait être gérée et de ses répercussions plus larges à l’ Sommet du MIT AI Policy Forum 2022.

Leur conversation a eu lieu à un moment où l’IA est ascendante dans les imaginaires publics et privés.

Les manchettes vantent ses réalisations à la fois petites – gagner un Concours d’art à la Colorado State Fair – et de grande taille, comme Prédire la forme de presque toutes les protéines connues de la science. Et la Maison Blanche juste Publication d’un plan directeur pour une déclaration des droits de l’IA afin de « protéger le public américain à l’ère de l’intelligence artificielle ».

Les entreprises investissent des milliards de dollars dans la technologie et les talents nécessaires à son développement (y compris Schmidt, qui ont attiré l’attention le mois dernier pour ne pas avoir divulgué publiquement ses investissements dans plusieurs startups d’IA alors qu’il présidait la commission NSC).

Schmidt a parlé du défi fondamental de définir ce que notre société veut gagner de l’IA et a appelé à un équilibre entre la réglementation de l’IA et l’investissement dans l’innovation.

Une approche pragmatique du développement

Schmidt a déclaré qu’un utopisme naïf accompagne souvent l’innovation technologique.  « Ce … revient à la façon dont la technologie fonctionne: un groupe de personnes ont des antécédents similaires, construisent des outils qui ont du sens pour eux sans comprendre que ces outils seront utilisés pour d’autres personnes d’une autre manière », a-t-il déclaré.

Nous devrions apprendre de ces erreurs, a déclaré Schmidt. L’énorme potentiel de l’IA ne doit pas aveugler les développeurs et les régulateurs sur les façons dont elle peut être exploitée. Il a cité les défis potentiels de la manipulation de l’information, du bioterrorisme et des cybermenaces, entre autres. Dans la mesure du possible, des garde-fous doivent être en place dès le début pour empêcher les applications criminelles ou destructrices, a-t-il déclaré.

Schmidt a également critiqué la mesure dans laquelle les personnes travaillant dans l’IA se sont concentrées sur le problème des biais. « Nous sommes tous devenus obsédés par les préjugés », a-t-il déclaré. Il s’agit d’un défi important enraciné dans les données utilisées pour former les systèmes d’IA, a-t-il reconnu, mais il s’est dit confiant que cela serait résolu en utilisant des ensembles de données plus petits et Apprentissage sans tir. « Nous trouverons un moyen de lutter contre les préjugés », a-t-il déclaré. « Les universitaires ont écrit toutes sortes de choses sur les préjugés parce que c’est ce qu’ils pouvaient encadrer. Mais ce n’est pas le vrai problème. Le vrai problème est que lorsque vous commencez à manipuler l’espace de l’information, vous manipulez le comportement humain. »

Entamer une discussion productive sur la réglementation

L’un des principaux défis actuels, selon Schmidt, est que nous n’avons pas de définition claire de ce que nous, en tant que société, attendons de l’IA. Quel rôle devrait-il remplir? Quelles sont les applications appropriées? « Si vous ne pouvez pas définir ce que vous voulez, il est très difficile de dire comment vous le réglementerez », a-t-il déclaré.

Pour commencer ce processus, l’une des suggestions de Schmidt était un groupe de travail relativement petit de 10 à 20 personnes qui dresserait une liste de règlements proposés. Celles-ci pourraient inclure: rendre certains contenus, tels que les discours haineux, illégaux; des règles devraient être en place pour distinguer les humains des robots; Tous les algorithmes doivent être publiés ouvertement.

Cette liste, bien sûr, n’est qu’un point de départ. « Supposons que nous ayons une telle liste – que nous n’avons pas en ce moment … Comment allez-vous faire en sorte que les PDG des entreprises qui sont, indépendamment de ce qu’ils disent, motivés par les revenus… d’être d’accord sur quoi que ce soit? » Schmidt a demandé.

Le gouvernement devrait faire plus que réglementer

Le rôle du gouvernement n’est pas simplement de réglementer l’IA, a déclaré Schmidt. Il doit simultanément promouvoir la technologie. Parallèlement à un plan réglementaire, Schmidt a suggéré que chaque pays devrait avoir un plan « comment pouvons-nous-gagner-l’IA ».

En ce qui concerne l’Europe, il a décrit l’admirable modèle d’investissement profond et à long terme dans les grands défis de la physique. L’accélérateur de particules du CERN est l’un des nombreux exemples. Mais Schmidt ne voit pas de niveaux d’investissement proportionnels dans l’IA. « C’est une énorme erreur, et cela va leur faire mal », a-t-il déclaré.

Investir de manière productive dans de nouvelles technologies tout en concevant une réglementation pour ces nouvelles technologies est difficile, a admis Schmidt, mais il croit que la tendance est à surréglementer et à sous-promouvoir. À titre d’exemple, il a souligné les objectifs stricts de l’Union européenne en matière de confidentialité des données en ligne, incarnés dans la Règlement général sur la protection des données. Bien que ces efforts semblent faire du bon travail pour protéger les données des consommateurs, les coûts de conformité élevés ont pour conséquence involontaire d’étouffer l’innovation, a soutenu Schmidt.

« Vous devez avoir une attitude d’innovation et de réglementation en même temps », a-t-il déclaré. « Si vous n’avez pas les deux, vous n’allez pas diriger. »

Le cas particulier des médias sociaux

Les médias sociaux présentent des défis spécifiques, a déclaré Schmidt. Il a souligné les problèmes liés aux plates-formes actuelles, qui ont souvent commencé comme des flux d’informations de base et se sont développées en moteurs de recommandation. Et les règles selon lesquelles ces moteurs fonctionnent ne sont peut-être pas les règles qui nous intéressent en tant que citoyens.

« Je suis PDG depuis plus de 20 ans. Les PDG se soucient beaucoup des revenus », a déclaré Schmidt. « Et les revenus proviennent de l’engagement. L’engagement vient de l’indignation. »

Pour freiner ce problème, Schmidt a proposé une suggestion enracinée dans ses préférences pour la liberté d’expression: les gens devraient être autorisés à dire ce qu’ils veulent, mais les algorithmes devraient être plus perspicaces dans ce qu’ils stimulent. « Tout le monde a son opinion, mais tout le monde n’a pas de mégaphone », a-t-il déclaré. L’objectif devrait être d’encourager la parole plutôt que de la fermer – et des algorithmes mal conçus l’ont arrêtée.

De ce point de vue, les entreprises bénéficient réellement d’une meilleure police interne. Schmidt a noté que TikTok s’est retrouvé confronté à un problème de contenu toxique polluant ses flux vidéo et nuisant à la valeur de divertissement de la plate-forme. En réponse, la société a développé un algorithme d’IA qui trouve et met en sourdine le contenu toxique. Il a suggéré que chaque entreprise de médias sociaux devra le faire à l’avenir.

« Et une fois que ces choses sont en place, elles doivent devenir soit une norme de l’industrie, soit une norme réglementée », a déclaré Schmidt. Les enjeux vont au-delà du divertissement et des revenus. « Si nous ne résolvons pas ce problème, nous allons perdre nos démocraties », a-t-il déclaré.

Lire la suite: Gary Gensler de la SEC sur la façon dont l’IA change la finance