Les régulateurs chinois ont proposé des règles restrictives autour des modèles d'IA tels que ChatGPT en cours de construction dans le pays, exigeant l'identification des utilisateurs et des examens de Sécurité, et interdisant « tout contenu qui subvertit le pouvoir de l'État, prône le renversement du système socialiste, incite à la division du pays ou sape l'unité nationale ». .»

Ces règles suivent de près le déploiement par les entreprises technologiques chinoises de leurs versions de grands modèles linguistiques à usage général, de systèmes d'IA polyvalents capables de converser en langage naturel et d'effectuer un nombre surprenant de tâches. Bien que la réception des modèles SenseTime, Baidu et Alibaba au cours du mois dernier suggère qu'ils sont quelque peu en retard par rapport à GPT-4, il est clair que l'industrie y est également dédiée au développement de ces capacités.

Malheureusement, peu de temps après le lancement du modèle Tongyi Qianwen d'Alibaba, l'un des régulateurs technologiques du pays, l'Administration chinoise du cyberespace, a proposé des restrictions qui pourraient étouffer les innovations pertinentes – et avec elles les ambitions de l'industrie chinoise de l'IA.

Le projet de règles n'est pas disponible en anglais (j'ai repris la citation ci-dessus du Traduction du Financial Times syndiqué chez Ars Technica) mais peut être consulté sur le site Web du régulateur ici. La première partie de l’article 4 interdit l’IA générative qui subvertit le pouvoir et l’autorité du gouvernement ou remet en question l’unité nationale, ainsi que diverses autres catégories d’interdictions telles que la discrimination ethnique, le terrorisme, etc.

Ce type de clause morale fourre-tout est courant en Chine, mais il se trouve que c’est le genre de restriction à laquelle l’IA générative est particulièrement incapable de se conformer. Même le LLM le plus soigneusement formé et réglé semble être capable d'être amené à dire toutes sortes de choses répréhensibles. Que les censeurs chinois décident que cela est conforme ou non à la loi dépend plus ou moins entièrement d'eux, ce qui rend quelque peu difficile la perspective de consacrer des ressources importantes à un tel projet.

Bien sûr, une grande partie de l’industrie chinoise existe sous un poignard tout aussi suspendu, et bien que les régulateurs chinois soient capricieux, ils ne sont pas assez stupides pour gâcher les fruits des années de soutien du gouvernement à la R&D dans le pays. Il est probable que, à l’instar d’autres lois limitant le contenu, cette loi agira davantage comme une feuille de vigne et une excuse à toute épreuve pour que le gouvernement exerce son influence – et non comme une interdiction générale.

Au contraire, ce sont les autres exigences qui pourraient ralentir considérablement le développement de l’IA.

Le projet de règles du CAC exige, entre autres choses, que les fournisseurs assument la responsabilité des données de formation des modèles, y compris des mesures difficiles à mesurer telles que l'authenticité, l'objectivité et la diversité ; les utilisateurs des services doivent être vérifiés comme des personnes réelles ; les informations personnelles et la réputation doivent être respectées, sinon les régulateurs pourraient juger le fournisseur responsable ; le contenu généré doit être étiqueté comme tel ; et bien d'autres restrictions.

Certes, certaines de ces exigences pourraient être considérées comme prudentes, voire critiques pour une industrie responsable de l’IA, mais la vérité est que bon nombre d’entre elles seraient incroyablement difficiles, voire impossibles, à mettre en œuvre par les entreprises et les efforts de R&D d’aujourd’hui. OpenAI a obtenu son succès en partie parce qu’il travaille dans un vide réglementaire presque total. Si la loi exigeait que l'entreprise, par exemple, obtienne l'autorisation des titulaires des droits sur le texte et les médias qu'elle utilise pour entraîner ses modèles, elle attendrait probablement encore pour construire GPT-2.

Si une startup d’IA ou même une entreprise établie ne peut pas opérer en toute confiance en Chine de peur de violer ces règles à grande échelle, elle peut décider que ses ressources seraient mieux dépensées ailleurs. Aussi rapide que soit cette industrie, un tel revers peut être très difficile à rattraper.

Le Financial Times a cité le directeur général d'Alibaba, Daniel Zhang, disant que « dans 10 à 20 ans, quand nous regarderons en arrière, nous réaliserons que nous étions tous sur la même ligne de départ ». C’est presque certainement vrai, et dans une perspective similaire, nous pourrions bien voir comment la réglementation a freiné l’innovation – ou peut-être comment elle a empêché un monopole stagnant, ou a protégé les gens contre le vol massif et bien organisé de leurs données.

Le projet de règles est ouvert aux commentaires (des parties en Chine, évidemment) pour le mois prochain, après quoi ils pourront ou non être révisés, et devraient entrer en vigueur plus tard cette année.