Il a été révélé cette semaine que les banques américaines avaient mené des «essais non signalés» de logiciels de caméra spécifiques, y compris la technologie de reconnaissance faciale.

La nouvelle intervient au milieu de la publication de nouvelles directives FTC concernant l’intelligence artificielle et les régulateurs de l’UE proposant des restrictions plus strictes sur le logiciel largement examiné.

Miser dessus

Reuters a rapporté le 19 avril que de grandes banques, dont JP Morgan Chase & Co., City National Bank of Florida et Wells Fargo & Co., ont soit testé ou prévoient de tester «la reconnaissance faciale et les systèmes d’intelligence artificielle associés».

City National, selon l’agence de presse, commencera les essais de la technologie de reconnaissance faciale pour identifier à la fois les clients aux distributeurs automatiques et les employés dans les magasins. JP Morgan, pour sa part, poursuit une petite série d’essais impliquant la «technologie d’analyse vidéo» dans l’état de l’Ohio.

Wells Fargo utilisait des images de crimes et les comparait à des délinquants connus il y a plus de dix ans, selon un ancien employé de la société de logiciels 3VR, mais la banque a refusé de commenter ses tactiques actuelles de prévention de la fraude.

Selon Reuters, Bank of America a rencontré la société d’IA AnyVision – dont la technologie est actuellement utilisée par la compagnie pétrolière BP et un hôpital de Los Angeles – plusieurs fois en 2019. L’organisation a affirmé avoir abandonné d’autres investissements connexes réalisés il y a une dizaine d’années pour réduire le flânage aux guichets automatiques.

La FTC établit ses lignes directrices

La nouvelle intervient alors que les organismes gouvernementaux des deux côtés de l’Atlantique proposent des lignes directrices et des réglementations pour l’utilisation éthique des technologies de l’intelligence artificielle.

La FTC récemment lignes directrices publiées sur son site Web, encourageant les entreprises à viser «la vérité, la justice et l’équité» dans leur utilisation des technologies artificielles. Leurs conseils incluent la compilation de divers ensembles de données, en veillant à ce que votre technologie soit aussi transparente que possible afin qu’elle puisse être examinée à la loupe, et en évitant les affirmations radicales sur l’impartialité de vos algorithmes.

Un peu inquiétant, l’une de leurs instructions clés – à laquelle ils consacrent un paragraphe entier – est le conseil de «faire plus de bien que de mal». De nombreux consommateurs s’attendent à ce que cela soit une norme de base (ou, mieux encore, «ne pas nuire du tout») pour toutes les technologies, mais en particulier les nouvelles et potentiellement dangereuses.

L’UE développe une position ferme sur la reconnaissance faciale

De l’autre côté de l’étang, Le Financial Times rapporte que les régulateurs de l’UE ont proposé de nouvelles réglementations strictes sur la reconnaissance faciale et limité son utilisation à “ un petit nombre de scénarios d’intérêt public ” et suggèrent que des pratiques telles que le suivi en temps réel nécessiteront une approbation judiciaire au niveau de l’État.

Il existe également une proposition d’amendes importantes – jusqu’à 6% du chiffre d’affaires mondial d’une entreprise – s’il s’avère qu’elle utilise la technologie de reconnaissance faciale lors de processus tels que le recrutement qui perpétuent les préjugés existants contre les groupes minoritaires.

Les régulateurs ont également discuté d’une interdiction préventive des “ pratiques de score social, dont les itérations en sont encore à leurs balbutiements en Chine mais qui ne sont encore utilisées nulle part dans l’Union européenne ou sur le continent au sens large.

Au Royaume-Uni, en août 2020, les juges ont statué que l’utilisation d’un logiciel de reconnaissance faciale automatique par la police du sud du Pays de Galles était en fait illégale. Cette décision historique est intervenue après qu’un homme à Cardiff a été identifié en 2017, et à nouveau lors d’une manifestation pacifique en 2018, sans son consentement. En fin de compte, l’opinion selon laquelle ces cas violaient ses droits de l’homme a prévalu.

Un marché en croissance

Malgré le recul institutionnel, la plupart des rapports suggèrent que la taille du marché mondial de la reconnaissance faciale devrait au moins doubler d’ici 2025, avec quelques estimations suggérant que cela vaudra un total de 8,5 milliards de dollars à ce moment-là.

D’ici là, tout le monde devine où se situeront l’intelligence artificielle, la biométrie et la reconnaissance faciale en termes de développement et de complexité. Les théoriciens de l’IA ont constamment averti que ces technologies évoluent à un rythme beaucoup plus rapide que beaucoup d’entre nous ne le pensent, ce qui rend encore plus important l’instauration d’une réglementation stricte.

Leave a Reply