Au milieu des inquiétudes concernant les ventes de Big Tech de technologie d’IA au Pentagone, Google a fourni au ministère de la Défense des logiciels cloud et des outils d’intelligence artificielle pour aider l’agence à faire face à la pandémie de Covid-19, selon un contrat non divulgué auparavant.

L’accord de 2,5 millions de dollars, dont les détails ont été obtenus via la demande FOIA, montrent que le partenaire de Google à Reston, en Virginie, Carahsoft a fourni les outils cloud et d’IA du géant de la technologie au Commandement du Nord des États-Unis (USNORTHCOM), qui agit comme une unité de commandement et de contrôle centralisée pour les efforts de sécurité intérieure du ministère de la Défense (DOD). Les travaux devaient commencer en mai 2020 et durer un an, et sont maintenant terminés.

Plus précisément, le contrat décrit comment le logiciel Google devait être utilisé pour aider à regrouper les données du ministère de la Défense « à l’appui de la pandémie du DoD COVID-19 ou d’autres réponses émergentes ». Il « intégrerait, fusionnerait, analyserait et diffuserait des informations critiques à l’appui de la réponse à la pandémie du DOD Covid-19 et d’autres missions émergentes ». En plus de travailler avec des alliés, ainsi qu’avec les autorités civiles locales et étatiques, l’une des missions principales de l’USNORTHCOM est d’aider le DoD à coordonner les secours en cas de catastrophe.

Le contrat demandait également « une solution d’optimisation des ressources basée sur l’IA dans le contexte des perturbations liées à Covid ». Cette technologie a été mise en place pour aider l’agence de défense à allouer les ressources de manière plus efficace, qu’il s’agisse de personnel militaire possédant les compétences pertinentes ou d’équipement médical. Ce travail a été effectué en collaboration avec le MIT Lincoln Laboratory « pour accéder aux ensembles de données et aux algorithmes existants et appliquer leurs capacités d’IA pour créer et tester des algorithmes améliorés ». La technologie aurait pu être étendue pour aider le DOD à « prédire les futurs déficits de la chaîne d’approvisionnement ».

Parmi les données que la technologie de Google a été invitée à ingérer et à analyser se trouvaient des informations «géospatiales», indiquant que les outils aideraient à analyser les images aériennes ou spatiales. Précédemment, Forbes a révélé que les startups financées par GV (anciennement Google Ventures, une société de capital-risque sous l’égide de la société mère de Google Alphabet) étaient faire toutes sortes de travaux de surveillance géospatiale pour le Pentagone, en appliquant leur intelligence artificielle à l’imagerie.

Le contrat a également permis une utilisation généralisée des outils de Google, en s’intégrant « avec d’autres agences et organisations du DoD, fédérales, étatiques, locales, privées et internationales ». (Google a refusé de commenter la nature de son travail car il n’est pas autorisé à discuter de contrats sans l’approbation du client.)

Rien n’indique que la technologie de Google a été utilisée pour autre chose que la réponse Covid-19 de l’agence de défense. Jack Poulson, un ancien data scientist de Google qui a démissionné pour des raisons éthiques, craignait toujours que sans aucune ligne rouge dans le contrat, il aurait pu être appliqué à d’autres moyens. Il a souligné les cas d’utilisation possibles de la Force opérationnelle interarmées Nord (FOI-Nord), une division de l’USNORTHCOM qui a précédemment aidé à soutenir la protection des frontières américaines, la guerre contre la drogue et le contre-terrorisme.

« À moins qu’il n’y ait une ligne rouge contractuelle claire – ce que je n’ai pas vu dans ce cas ou pour le travail de Google Cloud avec Customs & Border Protection – la rentabilité dicte de maximiser la portée de la technologie achetée. Dans ce cas, l’intégration de la surveillance des frontières de la JTF Nord et de la guerre contre les flux de surveillance des drogues serait des cas évidents de préoccupation », a ajouté Poulson, qui dirige maintenant la grande enquête technique à but non lucratif sur l’éthique technologique.

Non pas que toute surveillance soit contre Les principes de l’IA de Google, publié en 2018, qui promettait que le géant de la technologie ne créerait pas « des technologies qui collectent ou utilisent des informations pour la surveillance en violation des normes internationalement acceptées ».

Ces principes ont été créés après que des milliers d’employés de Google se soient rebellés contre un contrat controversé du DoD appelé Project Maven, qui consistait à appliquer l’IA de Google aux images de drones pour détecter des objets tels que des voitures et des bâtiments. Après que les membres du personnel ont écrit un lettre ouverte, qui demandait à Google de ne jamais vendre de « technologie de guerre », a cessé de travailler sur Maven.

Google continue d’être fier du travail qu’il accomplit pour le gouvernement, en particulier sur son activité de réponse au Covid-19. Comme Forbes rapporté l’année dernière, la société fait appel à divers sous-traitants dans la région de Washington DC pour ses ventes gouvernementales, comme un Contrat de 2 millions de dollars des douanes et des frontières pour un système de surveillance des personnes et des marchandises connu sous le nom de système de ciblage automatisé.