Garry Tan, président et chef de la direction de Y Combinator, a déclaré à une foule à l’Economic Club de Washington, D.C. cette semaine que « la réglementation est probablement nécessaire » pour l’intelligence artificielle.

Tan s’est entretenu avec Teresa Carlson, membre du conseil d’administration de General Catalyst, dans le cadre d’un entretien individuel où il a discuté de tout, de la façon d’entrer dans Y Combinator à l’IA, notant qu’il n’y a « pas de meilleur moment pour travailler dans la technologie que maintenant ».

Tan a déclaré qu’il était « globalement favorable » à la tentative du National Institute of Standards and Technology (NIST) de construire un cadre d’atténuation des risques GenAI, et a déclaré que « de grandes parties de la EO par l’administration Biden sont probablement sur la bonne voie. »

Le cadre du NIST propose des choses comme la définition que GenAI doit se conformer aux lois existantes qui régissent des choses comme la confidentialité des données et le droit d’auteur ; la divulgation de l’utilisation de GenAI aux utilisateurs finaux ; établir des réglementations interdisant à GenAI de créer du matériel pédopornographique, etc. Le décret de Biden couvre un large éventail de dictons, allant de l’obligation pour les entreprises d’IA de partager des données de Sécurité avec le gouvernement à la garantie d’un accès équitable aux petits développeurs.

Mais Tan, comme de nombreux VC de la vallée, se méfiait d’autres efforts réglementaires. Il a qualifié de « très préoccupants » les projets de loi liés à l’IA qui passent par les législatures de Californie et de San Francisco.

Comme un projet de loi californien qui fait sensation est celui présenté par le sénateur de l’État Scott Wiener qui permettrait au procureur général de poursuivre les entreprises d’IA si leurs produits sont nuisibles. Reportage de Politico.

« La grande discussion en termes de politique en ce moment est de savoir à quoi ressemble vraiment une bonne version de cela ? » Tan a déclaré. « Nous pouvons regarder des gens comme Ian Hogarth, au Royaume-Uni, d’être réfléchi. Ils sont également conscients de cette idée de concentration du pouvoir. En même temps, ils essaient de comprendre comment nous soutenons l’innovation tout en atténuant les pires dommages possibles.

Hogarth est un ancien entrepreneur YC et expert en IA qui a été engagé par le Royaume-Uni dans un groupe de travail sur les modèles d’IA.

« Ce qui me fait peur, c’est que si nous essayons de répondre à une préoccupation de science-fiction qui n’est pas présente à portée de main », a déclaré Tan.

Quant à la façon dont YC gère la responsabilité, Tan a déclaré que si l’organisation n’est pas d’accord avec la mission d’une startup ou ce que ce produit ferait pour la société, « YC ne la finance tout simplement pas ». Il a noté qu’il y avait plusieurs fois où il lisait dans les médias l’histoire d’une entreprise qui avait postulé à YC.

« Nous revenons en arrière et regardons les notes d’entretien, et c’est comme, nous ne pensons pas que ce soit bon pour la société. Et heureusement, nous ne l’avons pas financé », a-t-il déclaré.

Les leaders de l’intelligence artificielle continuent de se tromper

La directive de Tan laisse toujours la possibilité à Y Combinator de produire de nombreuses startups d’IA en tant que diplômés de la cohorte. Comme l’a rapporté mon collègue Kyle Wiggers, la cohorte de l’hiver 2024 comptait 86 startups d’IA, soit près du double du nombre du lot de l’hiver 2023 et près du triple du nombre de l’hiver 2021, selon le répertoire officiel des startups de YC.

Et les événements récents amènent les gens à se demander s’ils peuvent faire confiance à ceux qui vendent des produits d’IA pour définir l’IA responsable. La semaine dernière, fr.techtribune.neta rapporté qu’OpenAI se débarrassait de son équipe de responsabilité en matière d’IA.

Ensuite, la débâcle est liée à l’utilisation par la société d’une voix qui ressemblait à celle de l’actrice Scarlet Johansson lors de la démonstration de son nouveau modèle GPT-4o. Il s’avère qu’on lui a demandé d’utiliser sa voix et qu’elle les a refusés. OpenAI a depuis supprimé la voix de Sky, bien qu’elle ait nié qu’elle était basée sur Johansson. Cela, et les problèmes liés à la capacité d’OpenAI à récupérer les capitaux propres acquis des employés, font partie des éléments qui ont été a conduit les gens à remettre ouvertement en question Les scrupules de Sam Altman.

Pendant ce temps, Meta a fait l’actualité de l’IA en annonçant la création d’un conseil consultatif sur l’IA qui ne comptait que des hommes blancs, laissant de fait de côté les femmes et les personnes de couleur, dont beaucoup ont joué un rôle clé dans la création et l’innovation de cette industrie.

Tan n’a fait référence à aucun de ces cas. Comme la plupart des sociétés de capital-risque de la Silicon Valley, ce qu’il voit, ce sont des opportunités pour de nouvelles entreprises énormes et lucratives.

« Nous aimons considérer les startups comme un labyrinthe d’idées », a déclaré Tan. « Lorsqu’une nouvelle technologie sort, comme les grands modèles de langage, tout le labyrinthe d’idées est bouleversé. ChatGPT lui-même a probablement été l’un des produits grand public les plus rapides à être lancés de mémoire récente. Et c’est une bonne nouvelle pour les fondateurs.

L’intelligence artificielle du futur

Tan a également déclaré que San Francisco est au centre du mouvement de l’IA. Par exemple, c’est là que se trouvee Anthropic, lancé par des anciens de YC, a vu le jour, et OpenAI, qui était une spin-out de YC.

Tan a également plaisanté en disant qu’il n’allait pas suivre les traces d’Altman, notant qu’Altman « avait mon travail il y a plusieurs années, donc je n’ai pas l’intention de créer un laboratoire d’IA ».

L’une des autres réussites de YC est la startup de technologie juridique Casetext, qui a été vendue à Thomson Reuters pour 600 millions de dollars en 2023. Tan pensait que Casetext était l’une des premières entreprises au monde à avoir accès à l’IA générative et était ensuite l’une des premières sorties de l’IA générative.

En ce qui concerne l’avenir de l’IA, Tan a déclaré que « nous devons évidemment être intelligents avec cette technologie » en ce qui concerne les risques liés au bioterrorisme et aux cyberattaques. Dans le même temps, il a déclaré qu’il devrait y avoir « une approche beaucoup plus mesurée ».

Il suppose également qu’il n’y aura probablement pas de modèle de « gagnant rafle tout », mais plutôt un « incroyable jardin de choix de consommateurs, de liberté et de fondateurs pour pouvoir créer quelque chose qui touche un milliard de personnes ».

Du moins, c’est ce qu’il veut voir se produire. Ce serait dans son intérêt et dans celui de YC – de nombreuses startups prospères retournent beaucoup d’argent aux investisseurs. Donc, ce qui effraie le plus Tan, ce ne sont pas les IA maléfiques, mais une rareté d’IA parmi lesquelles choisir.

« Nous pourrions en fait nous retrouver dans cette autre situation vraiment monopolistique où il y a une grande concentration dans seulement quelques modèles. Ensuite, vous parlez d’extraction de loyer, et vous avez un monde dans lequel je ne veux pas vivre. »