Lorsque le PDG de Google, Sundar Pichai, s’est adressé à la conférence annuelle des développeurs d’E/S de l’entreprise le 18 mai 2021, il a fait deux annonces suggérant que Google est désormais l’organisation la plus puissante au monde dans le domaine de l’éducation. Ouvrant le discours en direct des jardins du campus de Mountain View, Pichai a célébré comment Google avait pu « aider les étudiants et les enseignants à continuer d’apprendre de n’importe où » pendant la pandémie.

Quelques minutes plus tard, il a annoncé la nouvelle plate-forme linguistique d’IA de Google, un élément central de la stratégie d’IA à long terme de l’entreprise, avec un exemple de cas d’utilisation spécifique de l’éducation. Selon lui, LaMDA (Language Model for Dialogue Applications) pourrait permettre aux étudiants de poser des questions en langage naturel et de recevoir des réponses conversationnelles sensées, factuelles et intéressantes.

« Donc, si un étudiant voulait en savoir plus sur l’espace », a écrit Pichai sur le blog d’entreprise, « le modèle donnerait des réponses sensées, rendant l’apprentissage encore plus amusant et engageant. Si cet étudiant voulait ensuite passer à un autre sujet », a-t-il ajouté, « LaMDA pourrait poursuivre la conversation sans aucune formation de recyclage. » Le projet de l’entreprise est d’intégrer LaMDA dans sa suite Workspace d’outils, de logiciels et de produits de cloud computing.

Ces proclamations indiquent comment Google prévoit de faire progresser ses activités dans le domaine de l’éducation à la suite des perturbations du COVID-19, en consolidant l’énorme croissance de ses plates-formes dans les écoles et en intégrant l’IA dans l’enseignement et l’apprentissage. Cela soulève de nouvelles inquiétudes parmi les militants et les chercheurs en matière de protection de la vie privée, car cela permet à Google d’accéder aux données sur les étudiants et les écoles à l’échelle internationale.

La salle de classe mondiale de Google

Avec la réouverture des écoles dans le monde entier, Google a travaillé dur pour s’assurer que les gros gains de marché qu’il a réalisés en 2020 puissent être maintenus et renforcés alors que les élèves retournent dans des classes physiques plutôt que virtuelles. Avec un nombre d’utilisateurs de sa plate-forme d’apprentissage numérique, Google Classroom, atteignant 150 millions contre 40 millions un an auparavant, il a annoncé un nouveau « carte routière » pour la plateforme début 2021.

« Alors que de plus en plus d’enseignants utilisent Classroom comme leur » plaque tournante « d’apprentissage pendant la pandémie, de nombreuses écoles le traitent comme leur système de gestion de l’apprentissage (LMS) », a écrit le responsable du programme de Classroom. « Bien que nous n’ayons pas entrepris de créer un LMS, Classroom s’engage à répondre aux besoins évolutifs des écoles. »

La feuille de route pour Classroom en tant que LMS scolaire n’était qu’un plan présenté lors de sa Apprendre avec Google conférence, qui comprenait également le lancement de 40 nouveaux modèles d’ordinateurs portables Chromebook ainsi que des mises à niveau des fonctionnalités de ses produits éducatifs. Ces développements illustrent une expansion stratégique continue que Google poursuit dans l’éducation depuis 15 ans, depuis le lancement de ses logiciels gratuits pour l’éducation en 2006 et des Chromebooks à bas prix en 2011. Son avantage concurrentiel dans le matériel et les logiciels scolaires n’a progressé que pendant la pandémie.

L’extension constante de la portée de Google dans l’éducation a toujours été très controversée. Il y a cinq ans, l’organisation à but non lucratif des libertés numériques Electronic Frontier Foundation a déposé une plainte officielle avec la Federal Trade Commission contre Google pour la collecte et l’exploration de données d’informations personnelles sur des écoliers à partir de Chromebooks et de Google Apps for Education (renommé depuis Workspace for Education) sans autorisation ni options de retrait. Des chercheurs de l’Université de Boras en Suède ont souligné comment la politique de confidentialité de Google Apps for Education a déguisé son modèle économique, rendant presque impossible de déterminer quelles données il a collectées sur les étudiants et à quoi Google les utilise.

L’exploration de données de Google dans le domaine de l’éducation est devenue de plus en plus contestée. En février 2020, le procureur général du Nouveau-Mexique a déposé une plainte alléguant que Google viole la vie privée des étudiants qui utilisent ses Chromebooks et ses logiciels, en violation à la fois de la loi fédérale et de la Engagement de confidentialité des étudiants dont Google est lui-même signataire. Google, a affirmé le procureur général, s’était engagé à ne collecter, conserver, utiliser et partager les données des étudiants qu’à des fins éducatives, mais continuait à les exploiter à des fins commerciales.

Néanmoins, dans les mois qui ont suivi, Google a continué à se développer dans les systèmes éducatifs du monde entier, souvent avec le soutien des départements de l’éducation au niveau des États ou au niveau national et des organisations internationales telles que l’OCDE.

Les controverses sur la collecte et le partage de données devraient s’intensifier avec l’expansion de Classroom. Une recherche publiée par une équipe d’universités d’Australie et du Royaume-Uni, à laquelle j’ai contribué récemment, a mis en évidence comment des centaines de fournisseurs externes de technologies éducatives sont intégré à Classroom, permettant potentiellement à Google d’étendre ses pratiques d’extraction de données bien au-delà de la plate-forme. La feuille de route de Classroom confirme son intention d’étendre ces intégrations, via une « place de marché » de « modules complémentaires de classe » que les enseignants peuvent ensuite attribuer sans avoir besoin de connexions d’élèves supplémentaires. Cela fait de Classroom lui-même la principale passerelle permettant aux étudiants d’accéder à d’autres ressources non Google.

Ces développements confèrent à Google un pouvoir de contrôle extraordinaire dans le secteur des technologies de l’éducation, car ils définissent les règles pour l’intégration d’autres fournisseurs tiers à Classroom et pour l’échange de données entre eux. Dans son nouveau rôle de LMS, Classroom peut même s’intégrer aux systèmes d’information scolaires existants, agissant comme l’interface clé entre une école et ses dossiers d’élèves.

Ensemble, l’expansion de Classroom et ses intégrations donnent la priorité à un modèle d’enseignement particulier fondé sur la collecte et l’échange constants de données sur les élèves entre les plates-formes via Google Cloud. La distinction entre finalité commerciale et finalité éducative est de plus en plus difficile à cerner dans ces évolutions. Le modèle commercial d’extraction de données de Google est devenu symétrique et soutient les approches numériques de l’enseignement et de l’apprentissage que Google lui-même a contribué à établir en tant que modèle mondial pour l’avenir de l’école.

Audit technico-éthique

Google semble désormais susceptible de déployer également sa nouvelle fonctionnalité d’IA dans les écoles. L’éducation ne sera pas le seul secteur de la société touché par l’interface d’IA conversationnelle de Google, bien que, comme l’annonce de Sundar Pichai à I/O l’a clairement indiqué, l’éducation est un cas d’utilisation évident pour de telles technologies.

Les technologies de grands modèles de langage sont parmi les développements récents de Google les plus controversés. À la fin de l’année dernière, un groupe de chercheurs, dont les deux co-responsables de l’équipe Ethical AI de Google, a produit un document de recherche affirmant idées nuisibles, préjugés et informations trompeuses sont intégrés à ces modèles. Google a par la suite licencié les auteurs de son équipe d’IA éthique, ce qui a conduit à condamnation généralisée et de sérieuses questions sur les implications éthiques à long terme de sa stratégie d’IA.

Cela soulève la question troublante de savoir si l’installation des technologies d’intelligence artificielle linguistique de Google dans les produits éducatifs pourrait reproduire des biais et de la désinformation au sein des établissements scolaires. Chez I/O, Pichai a maintenu que le développement ultérieur garantirait que «l’équité, la précision, la sécurité et la confidentialité» soient intégrées à LaMDA avant le déploiement complet, bien que le licenciement de ses spécialistes de l’IA éthique affaiblisse la crédibilité de ces affirmations.

Selon les auteurs d’un nouveau document de recherche, «Ne soyez pas méchant : devrions-nous utiliser Google dans les écoles ?”, la société mérite un examen beaucoup plus approfondi avant toute nouvelle expansion dans l’éducation. En utilisant une méthode d’« audit techno-éthique », l’équipe de recherche de l’Université du Texas du Nord a découvert que « Google extrait les données personnelles des étudiants, contourne les lois destinées à les protéger, les cible à des fins lucratives, obscurcit l’intention de l’entreprise dans Service, recommande des informations nuisibles et déforme les connaissances des étudiants.

L’audit techno-éthique est une étape importante pour répondre au rôle croissant de Google dans l’éducation. Mais des questions plus importantes subsistent concernant l’influence des entreprises technologiques privées dans les systèmes éducatifs publics et publics, et le potentiel des nouvelles plateformes d’IA et de cloud computing pour changer les pratiques et les priorités du secteur scolaire.

L’implication des entreprises privées dans l’éducation n’est pas nouvelle, mais l’échelle internationale de l’influence des grandes technologies et les implications technologiques et éthiques des plates-formes émergentes, de l’IA et des systèmes de données dans les écoles exigent une nouvelle attention. Google a produit le matériel, les logiciels et les systèmes de cloud et de données sous-jacents dont les systèmes éducatifs dépendent de plus en plus, à des échelles qui traversent les frontières géographiques et politiques et les continents. Ce sont des questions techniques, éthiques et politiques qui ne devraient pas seulement être déléguées aux éducateurs et aux chefs d’établissement. Ils doivent être traités au niveau réglementaire et par le biais d’une discussion démocratique et collective sur l’avenir des écoles au-delà de la pandémie.

Ben Williamson est chercheur principal à l’Université d’Édimbourg, au Royaume-Uni, et est sur Twitter @BenPatrickWill.