En 2019, le gouvernement de la ville de Delhi a installé des caméras de vidéosurveillance dans environ 700 écoles. Maintenant, le gouvernement a introduit des caméras de reconnaissance faciale – une mesure qui soulève de graves problèmes de confidentialité pour les étudiants concernés.

Le procès actuellement en cours dans une douzaine d’écoles de Delhi est susceptible de se généraliser avec le temps. Alors pourquoi est-ce problématique et quelles pourraient en être les répercussions à long terme?

État de la surveillance

L’Inde est un pays qui s’appuie déjà fortement sur la technologie pour contrôler sa population. La base de données de cartes Aadhaar est l’un des plus grands systèmes d’identité biométrique au monde. Il a déposé les empreintes digitales et les scans de l’iris d’environ 1,3 milliard de personnes dans sa base de données, et il est utilisé pour identifier les personnes lorsqu’elles ouvrent un compte bancaire, cherchent un nouvel emploi, demandent des prestations de l’État, demandent une assurance, achètent une maison et font un variété d’autres tâches quotidiennes.

Depuis l’introduction de la base de données Aadhaar il y a douze ans, elle a été déployée auprès d’environ 90% de la population. Malgré le recul initial et les problèmes de confidentialité entourant la création d’un référentiel biométrique massif, la plupart des personnes possédant une carte Aadhaar la considèrent maintenant comme bénigne. La plupart des citoyens estiment que le système est sûr et qu’il est conçu à leur avantage.

Cette acceptation généralisée du suivi biométrique est troublante car l’Inde n’a toujours pas de lois sur la protection des données qui défendent les données et informations personnelles. Cela devrait causer de l’appréhension car les données des gens sont exploitables et peuvent être suivies – une appréhension qui augmente lorsque les données des enfants sont impliquées.

Intention ambiguë

Des études ont montré que la vidéosurveillance dans les écoles peut entraîner certains avantages. Les écoles qui mettent en œuvre la vidéosurveillance ont enregistré jusqu’à 70% de réduction dans l’intimidation. Les enseignants ont été suspendus pour comportement abusif pris en photo, et il est prouvé que la vidéosurveillance peut réduire les attaques physiques contre les élèves et les enseignants.

Cependant, si la vidéosurveillance permet déjà de réduire les comportements intolérables, il est important de s’interroger sur les avantages de l’ajout de la reconnaissance faciale. Pour l’instant, cette question n’a pas été correctement abordée par les autorités, ce qui suscite des inquiétudes quant à la possibilité de permettre le contrôle non pas dans les locaux de l’école, mais ailleurs.

Cela a du sens dans le contexte de ce qui se passe ailleurs dans le pays, où la technologie de surveillance devient endémique, et soulève des questions importantes concernant la volonté politique de désensibiliser les enfants à la surveillance pendant leurs années de formation. Prenons par exemple les récentes propositions de Lucknow, où la police a présenté des plans visant à utiliser la reconnaissance faciale pour scanner les expressions faciales des femmes à la recherche de signes de harcèlement lorsqu’elles se déplacent dans les espaces publics. Il s’agit d’un dépassement massif qui a entraîné une réaction violente de la part des groupes de défense des droits des femmes et des défenseurs des droits humains concernés.

De plus, les experts ont exprimé des préoccupations sur la manière dont les autorités pourraient choisir d’utiliser la reconnaissance faciale dans les salles de classe. La technologie pourrait être utilisée pour surveiller les expressions faciales qui signalent qu’un enfant ne prête pas attention ou a des difficultés de compréhension, par exemple.

Cela pourrait conduire à des étudiants isolés, exclus, disciplinés et potentiellement discriminés. Cela soulève des questions valables quant à savoir qui pourra prendre des décisions en utilisant la technologie et comment.

Si la numérisation faciale est utilisée de cette manière, elle a le potentiel d’affecter l’état psychologique d’un jeune au cours de ses années de formation. Cela soulève également des considérations importantes concernant la manière dont les informations sont stockées et rendues accessibles, et comment elles pourraient affecter les futures opportunités d’un étudiant dans l’enseignement supérieur.

Les ramifications de la création d’un lien de surveillance qui commence dans les écoles pourraient entraîner des changements sociaux et comportementaux significatifs.

Les personnes qui savent qu’elles sont observées se comportent différemment et sont plus susceptibles de s’autocensurer. Ils sont également moins susceptibles de s’associer à d’autres personnes qu’ils considèrent comme potentiellement préjudiciables à leur réputation, par exemple.

En conséquence, les citoyens placés sous surveillance constante sont susceptibles de connaître une fragmentation sociale accrue – avec des comportements d’exclusion, de la discrimination et des préjugés susceptibles de s’intensifier. Ce potentiel augmente si des systèmes de crédit social comme ceux de la Chine sont également introduits.

La démocratie risque également d’en prendre un coup, car l’autocensure conduit à une incapacité accrue à s’opposer à des systèmes politiques enracinés. Cela crée le terreau idéal pour l’autoritarisme et un paradigme social dans lequel la technologie a réduit au silence ceux qui choisiraient habituellement de protester.

Problèmes de sécurité

Même sans tenir compte de ces profondes ramifications sociales, les préoccupations sécuritaires entourant le suivi des enfants sonnent l’alarme. La base de données des cartes Aadhaar a déjà souffert violations importantes, qui révèle l’incapacité du gouvernement à sécuriser les informations personnelles sensibles.

Cela est en partie dû à l’absence de réglementation en matière de protection des données en Inde, qui permet au gouvernement d’exploiter les données de manière trop large – ce qui entraîne une surface d’attaque accrue et une menace élevée de fuites de données, de violations de données et de mauvaise gestion ou utilisation abusive des données. Cela devient d’autant plus inquiétant lorsque les données impliquées pourraient être utilisées par des criminels pour identifier et suivre des enfants.

La chose importante à retenir est que les algorithmes de reconnaissance faciale fonctionnent en créant une représentation mathématique du visage d’une personne concernée. Ces informations biométriques peuvent potentiellement être utilisées pour usurper l’identité d’une personne dans un système, ce qui pourrait entraîner des risques pour les enfants à l’avenir – si leurs données sont volées par des criminels qui tentent de se faire passer pour eux par voie électronique.

Des préoccupations existent également en raison du manque de compétence des algorithmes de reconnaissance faciale en matière d’identification des enfants. Les militants des droits de l’homme craignent que cela n’entraîne une identification erronée des enfants et une accusation de crimes qu’ils n’ont jamais commis, ce qui pourrait conduire à formes abusives de discipline.

Avec autant de risques impliqués, les citoyens devraient s’opposer à la décision d’installer la reconnaissance faciale dans les écoles. Le gouvernement indien n’a pas assuré la transparence sur la manière dont les données seront collectées, catégorisées et stockées – et il s’est révélé incapable de promettre le niveau de sécurité des données nécessaire.

Ajoutez à cela les inquiétudes sur la façon dont les enfants peuvent être stigmatisés et sur la façon dont la technologie pourrait augmenter le pipeline école-prison, et nous devons conclure que le gouvernement s’est précipité dans sa décision – pour satisfaire ses propres fins – sans prendre dûment en compte les aspects négatifs. ramifications sociales.